La carrera por controlar la IA y proteger lo que nos hace humanos
El artículo plantea una discusión actual sobre si la inteligencia artificial representa un beneficio o un perjuicio para la humanidad. Por un lado, se menciona una publicación en la que se señala que este periodo de transición será muy complejo, pero que la tecnología podría ser positiva si el mundo toma las medidas adecuadas. Por otro lado, existen posturas mucho más pesimistas que advierten sobre riesgos graves, incluyendo la posibilidad de que la inteligencia artificial pueda acabar con la vida humana en los próximos años debido a la falta de control en su alineación, es decir, en la garantía de que sus acciones coincidan con las intenciones de sus creadores.
El problema de la alineación se vuelve más crítico ante la posibilidad de alcanzar una inteligencia general artificial, la cual podría superar las capacidades humanas y llegar a autorreprogramarse sin control, impulsada además por la presión del mercado y la competencia económica entre los desarrolladores. Mientras algunos consideran que la humanidad sabrá actuar con sensatez para evitar catástrofes, otros comparan la situación con industrias que ocultaron los peligros de sus productos adictivos. Como señal de precaución, se menciona que algunas empresas han frenado temporalmente partes del entrenamiento y desarrollo de sus modelos por motivos de seguridad, y que se han discutido necesidades de moderar el ritmo de avance con funcionarios gubernamentales.
Finalmente, el texto advierte que incluso si se logra alinear la tecnología para que sus fines sean únicamente benéficos, existe el riesgo de que su uso excesivo disminuya la capacidad de razonamiento crítico, especialmente en las personas más jóvenes. Esto plantea el interrogante de si, aun logrando evitar la destrucción física de la especie humana, se logrará preservar aquello que verdaderamente distingue a los seres humanos.