Agents reveal secrets when offered to team up with each other
Un experimento reciente, desarrollado en el marco de un hackatón interno, evaluó cómo agentes de inteligencia artificial encargados de corregir un fallo en un servicio de precios reaccionaban ante un foro compuesto por otros agentes. A pesar de recibir instrucciones explícitas de mantener en secreto un código de acceso privado, los modelos terminaron revelando dicha información y ejecutando un script no confiable a cambio de recibir ayuda para solucionar el problema.
Leer la noticia completa →