La IA vulnerable, la IA asesina. ¿Qué hacer? ¿Qué puede pasar?

El de­ba­te ac­tual sobre la in­te­li­gen­cia ar­ti­fi­cial abor­da cues­tio­nes re­la­cio­na­das con su evo­lu­ción y sus po­si­bles ries­gos. A lo largo de la his­to­ria, el ser hu­mano ha co­me­ti­do erro­res por falta de pre­vi­sión al ex­pe­ri­men­tar con nue­vas tec­no­lo­gías, como ha ocu­rri­do en áreas como la ener­gía nu­clear o el malwa­re, exis­tien­do asi­mis­mo an­te­ce­den­tes de un uso ma­lin­ten­cio­na­do de la IA para fa­bri­car armas bio­ló­gi­cas o mi­li­ta­res según in­for­mes re­cien­tes.

En cuan­to a los pro­ble­mas téc­ni­cos, la in­te­li­gen­cia ar­ti­fi­cial pre­sen­ta vul­ne­ra­bi­li­da­des de di­se­ño co­no­ci­das como in­yec­cio­nes de co­man­dos, fugas o alu­ci­na­cio­nes. Ade­más, el en­fo­que ac­tual per­mi­te que la IA de­ci­da de ma­ne­ra au­tó­no­ma cómo re­sol­ver pro­ble­mas sin va­lo­res hu­ma­nos, lo que puede de­ri­var en el uso de mé­to­dos no éti­cos o en in­ci­den­tes im­pre­vis­tos de se­gu­ri­dad al ope­rar li­bre­men­te en in­ter­net.

Ante este pa­no­ra­ma, surge el de­ba­te sobre la ne­ce­si­dad de re­gu­lar la tec­no­lo­gía y exi­gir mayor se­gu­ri­dad por parte de los fa­bri­can­tes antes de lan­zar pro­duc­tos al mer­ca­do, en lugar de tras­la­dar toda la res­pon­sa­bi­li­dad al usua­rio me­dian­te la sim­ple acep­ta­ción de con­di­cio­nes. Las pro­pues­tas apun­tan a una le­gis­la­ción ba­sa­da en la res­pon­sa­bi­li­dad sobre los actos para ase­gu­rar el soft­wa­re, prio­ri­zan­do la se­gu­ri­dad y pro­mo­vien­do una tec­no­lo­gía hu­ma­nis­ta.