AIUC recauda 40 millones de dólares para certificar agentes de IA empresarial

La compañía AIUC, establecida en San Francisco y fundada recientemente, informó que consiguió una ronda de inversión de serie A por una cantidad de cuarenta millones de dólares. Con esta nueva inyección de capital, el total acumulado de fondos obtenidos por la empresa asciende a cincuenta y cinco millones. La operación financiera estuvo encabezada por Ribbit Capital y contó además con la participación de First Harmonic.

Para abordar los desafíos del sector, la firma creó AIUC-1, que consiste en un sistema de evaluación y medición de riesgos enfocado en agentes de inteligencia artificial utilizados en el ámbito empresarial. Este esquema somete a los modelos a miles de situaciones de ataque adversario para identificar vulnerabilidades comunes, tales como comportamientos anómalos, fugas de información, ataques de inyección de instrucciones, respuestas alucinadas y rupturas de restricciones, complementando el proceso con revisiones trimestrales para hacer frente a nuevas amenazas.

El fundador de la empresa, quien ocupó el primer puesto de producto en Anthropic, señaló que la principal traba actual para las compañías radica en la demostración de seguridad y confiabilidad, dado que numerosos proyectos piloto aprobados se detienen en las evaluaciones de seguridad. Actualmente, este estándar de certificación ya es empleado por diversas plataformas y organizaciones conocidas en el mercado.

Los recursos financieros recién obtenidos serán aprovechados por la organización para ampliar sus procesos de auditoría, sus normativas y sus pólizas de seguro orientadas a modelos de vanguardia. El artículo original no aporta más detalle sobre las operaciones futuras de la compañía ni sobre los términos específicos de sus servicios de aseguramiento.