Al inicio de mes nos presentaban una asociación que han realizado algunas de las tecnológicas más importantes con presencia Global y que podría servir de guía para la gobernanza de los agentes de IA, para ello, han creado la web: https://blueprintalliance.ai en donde han dejado por escrito los principios por lo que van a asegurar un buen uso de la IA y en muchos casos como deberían de ser los principios de protección.
Las empresas miembro fundadores son:
Y han creado una arquitectura de referencia que se utilizará para intercambiar información entre fabricantes para favorecer el desarrollo, seguridad y uso de IA.
Para ello, han creado un Framework de trabajo en donde debemos de responder a todas las preguntas para validar que la implementación de IA es correcta y segura.
La Alianza ha coescrito la arquitectura de referencia blueprint para asegurar la IA. Ofrece una forma estandarizada de abordar cuatro cuestiones críticas:
- ¿Dónde están mis agentes? Encuentra a todos los agentes de IA en tu entorno y regístralos como identidades gobernadas, creando un inventario unificado que permita el control de acceso.
- ¿Qué pueden hacer? Define los límites y permisos que rigen el acceso de agentes a través de sesiones delegadas por humanos y flujos de trabajo multiagente.
- ¿Qué están haciendo? La visibilidad y la identidad requieren monitorización en tiempo de ejecución en línea. Inspecciona las acciones de los agentes en tiempo real para evitar comportamientos maliciosos, mala gestión de datos y comprometimiento del sistema.
- ¿Cómo respondo? Cuando la monitorización detecta una amenaza, la empresa necesita controles automatizados y precisos que detengan a un agente al instante y lo restauren cuando sea apropiado.
Todos estos pilares están respaldados por los elementos fundamentales del contexto de ejecución y las señales de riesgo, que se alimentan continuamente mediante telemetría en tiempo de ejecución, registro y observabilidad. En conjunto, actúan como el tejido conectivo que permite al sistema detectar patrones de riesgo y responder en conjunto.
Qué principios indican para la Gobernanza?
- Cada agente es una identidad de seguridad distinta Trata a los agentes como empleados: provisiona, autentica y desprovisiona con igual rigor. Sin excepciones.
- El acceso está limitado a la tarea, no a la posición Concede permisos dinámicos y de mínimo privilegio para una sola acción y luego revocalos inmediatamente al completarlo.
- La delegación es rastreable de extremo a extremo Cada acción se remonta al humano o al proceso que la autorizó, a lo largo de toda la cadena de delegación.
- El comportamiento en tiempo de ejecución se monitoriza, no solo se aprovisiona Observar continuamente la ejecución para detectar anomalías y establecer líneas base de comportamiento más allá de los permisos iniciales.
- El contención es instantánea y reversible odo agente necesita un interruptor de apagado inmediato para suspender o terminar operaciones, con un camino claro para restaurar la función.
- La gobernanza se adapta a la velocidad de la IA Utiliza una arquitectura de seguridad adaptable que escale con las capacidades evolutivas de los agentes en lugar de reglas rígidas y estáticas.
En conjunto, estos principios extienden la seguridad de confianza cero a los agentes autónomos, cerrando las brechas de identidad, seguridad y gobernanza.
Más información (en inglés): https://blueprintalliance.ai/