¿Quién controla tu IA? Un marco de confianza para agentes y modelos empresariales

Los líderes de tecnologías de la información enfrentan un problema persistente de sombra tecnológica impulsado por la rápida evolución y proliferación de agentes de inteligencia artificial autónomos, adaptables y no deterministas. Al buscar el beneficio de estas herramientas, muchas organizaciones descuidan la seguridad y carecen de la gobernanza necesaria, una situación reflejada en informes recientes donde un porcentaje importante de empresas carece de supervisión adecuada y un número menor exige autorización formal para desplegar inteligencia artificial.

Para abordar este desafío, la compañía DigiCert propone un marco de gobernanza llamado AI Trust, diseñado para ayudar a las empresas a responder preguntas clave sobre el uso, los datos regulados, las credenciales, la capacidad de frenar agentes comprometidos y la trazabilidad de los incidentes. El primer obstáculo que suelen enfrentar las empresas es la falta de visibilidad, ya que los desarrolladores despliegan agentes sin previo aviso y las herramientas de los usuarios generan sub-herederos que no heredan las mismas responsabilidades ni autorizaciones.

En cuanto a la gestión de identidades, la práctica común de vincular agentes al sistema de identidad y acceso de humanos mediante claves estáticas de larga duración contradice los principios de confianza cero. Como alternativa, organismos de la industria recomiendan tratar la identidad de los agentes como un problema de identidad de cargas de trabajo. Adicionalmente, se plantea utilizar el sistema de nombres de dominio como una herramienta de verificación y cumplimiento de políticas mediante registros públicos de políticas de agentes, y emplear un pasaporte de agente respaldado por certificados y motores de políticas centralizados.