Muse Creates Detailed Profiles of All Your Friends and Family
Un asistente personal de inteligencia artificial de Meta, llamado Muse, ha alcanzado una gran popularidad y permite a los usuarios conectarlo a cuentas bancarias, mensajes o datos de salud. Recientemente, investigadores lograron extraer instrucciones internas y archivos de operación del agente a través de la propia interfaz de chat. La compañía indicó que estos archivos se mantuvieron accesibles con fines de transparencia respecto a cómo responde el sistema ante temas sensibles.
Entre los datos descubiertos destaca la capacidad de Muse para elaborar perfiles individuales sobre cada persona en la vida del usuario, incluyendo amigos, familiares y compañeros, mediante un proceso que recopila información de forma continua. La herramienta utiliza archivos de texto estructurado como memoria para almacenar detalles sobre los vínculos personales, hechos, historiales y fechas relevantes, con el propósito de ofrecer sugerencias sobre las relaciones o recomendaciones de actividades.
Especialistas señalan que este enfoque busca comprender las interacciones del usuario con personas reales de una manera profunda, lo cual genera inquietud sobre la cantidad de información que se entrega a los sistemas de inteligencia artificial. Expertos apuntan que estas herramientas incentivan a que las personas compartan activamente detalles de su vida cotidiana, como correos electrónicos, calendarios y datos financieros, ampliando significativamente el conocimiento que las empresas poseen sobre los usuarios.
Por su parte, Meta aclaró que cada usuario cuenta con una máquina virtual dedicada que almacena el contexto y los datos, los cuales se pueden borrar o desconectar de servicios externos en cualquier momento. La empresa agregó que el asistente está diseñado para solicitar confirmación antes de efectuar acciones como compras o envíos de correos, y cuenta con un registro de auditoría para revisar su actividad.