Microsoft se compromete a aplicar normas de privacidad exhaustivas en materia de IA para los estudiantes. ¿Seguirán su ejemplo otros gigantes tecnológicos?
El uso de la inteligencia artificial en las escuelas y el destino de la información personal de los alumnos generan inquietud entre padres, educadores y menores. Como reacción a esta situación y al debate actual, los distritos escolares más grandes del país decidieron pausar el uso de estas herramientas durante un año para estudiar su implementación, mientras que Microsoft acordó con un sindicato de maestros adoptar medidas de privacidad y seguridad para sus tecnologías en el ámbito educativo.
El pacto firmado establece que los datos de los estudiantes y profesores no podrán emplearse para entrenar sistemas de inteligencia artificial, salvo una excepción limitada relacionada con la protección de los alumnos, ni tampoco podrán venderse, utilizarse con fines publicitarios o para el desarrollo de productos. Asimismo, se prohíben características diseñadas para fomentar la dependencia emocional o alargar el tiempo de uso más allá de lo necesario para el aprendizaje, e incluye auditorías externas y medidas de transparencia para explicar su funcionamiento a las familias de forma sencilla.
La organización sindical responsable del acuerdo señaló que se trata de un hito pionero que busca marcar un estándar en la industria ante la falta de leyes federales y estatales sobre la materia, y mencionó que mantiene conversaciones con otras firmas del sector como OpenAI y Anthropic. Por su parte, Google, que es un proveedor relevante de tecnología educativa y recientemente habilitó un chatbot para numerosos menores a través de su plataforma escolar, no ha comunicado si ofrecerá protecciones similares a las adoptadas por Microsoft.