La línea de atención al cliente de la actriz de IA que se ha hecho viral escanea el rostro de cada persona que llama y analiza su estado de ánimo
La actriz de inteligencia artificial Tilly Norwood protagonizó un momento viral tras un fallo en una entrevista televisiva, lo que llevó a probar el servicio "Talking Tilly" que permite a cualquier usuario realizar videollamadas con el personaje. Antes de iniciar la comunicación, el sistema exige superar una verificación de edad automatizada mediante un selfi en video analizado por un proveedor externo, o bien cargando una identificación oficial en caso de dudas. La empresa británica responsable, Xicoia Ltd, señala que el autorregistro viaja directamente al proveedor sin generar plantillas biométricas y que las imágenes no se almacenan tras la comprobación, conservando únicamente un rango de edad aproximado y un número de referencia.
Junto con el control de edad, la plataforma analiza continuamente la cámara y la voz de los usuarios para inferir su estado emocional y adaptar la respuesta del personaje, una función que no puede desactivarse de forma individual. Estas revisiones operan bajo intereses legítimos y las llamadas son grabadas, transcritas y procesadas en vivo por proveedores estadounidenses, utilizando la tecnología de Google y Tavus. Asimismo, el sistema cuenta con filtros automáticos para detectar lenguaje abusivo que pueden bloquear grabaciones por error, las cuales se eliminan de manera permanente después de un periodo de veinticuatro horas.