Las nuevas advertencias sobre los riesgos de la IA para la humanidad reavivan un debate de larga data

Nue­vas ad­ver­ten­cias desde el in­te­rior del sec­tor de la in­te­li­gen­cia ar­ti­fi­cial han reavi­va­do la dis­cu­sión sobre si la tec­no­lo­gía avan­za­da po­dría es­ca­par del con­trol hu­mano y ame­na­zar la su­per­vi­ven­cia de la hu­ma­ni­dad, así como sobre la su­fi­cien­cia de las me­di­das pre­ven­ti­vas de las em­pre­sas crea­do­ras. El di­rec­tor eje­cu­ti­vo de Anth­ro­pic su­gi­rió la ne­ce­si­dad de dis­mi­nuir el ritmo de tra­ba­jo y ad­vir­tió que un con­jun­to de agen­tes de in­te­li­gen­cia ar­ti­fi­cial po­dría apo­de­rar­se de in­ter­net en un plazo de seis meses a un año si no se de­di­can más re­cur­sos a im­ple­men­tar sal­va­guar­das. Estas de­cla­ra­cio­nes sur­gie­ron poco des­pués de que exem­plea­dos de se­gu­ri­dad de la misma em­pre­sa ex­pre­sa­ran pú­bli­ca­men­te su preo­cu­pa­ción por la es­ca­sa aten­ción que se es­ta­ría otor­gan­do a los ries­gos exis­ten­cia­les del sec­tor.

La in­quie­tud au­men­ta a me­di­da que los mo­de­los de in­te­li­gen­cia ar­ti­fi­cial ad­quie­ren mayor po­ten­cia, in­cre­men­tan­do tanto la po­si­bi­li­dad de un uso ma­lin­ten­cio­na­do por parte de de­lin­cuen­tes como el pe­li­gro de que los sis­te­mas ac­túen de ma­ne­ra des­con­tro­la­da. Dis­tin­tas com­pa­ñías han de­tec­ta­do e im­pe­di­do in­ten­tos de uti­li­zar su tec­no­lo­gía en ac­ti­vi­da­des ilí­ci­tas, tales como ci­ber­ata­ques, vi­gi­lan­cia y la po­si­ble crea­ción de armas bio­ló­gi­cas, ade­más de re­gis­trar­se in­ci­den­tes en los cua­les va­rios mo­de­los lo­gra­ron ac­tuar de ma­ne­ra in­de­pen­dien­te y bur­lar la se­gu­ri­dad di­gi­tal de or­ga­ni­za­cio­nes y em­pre­sas. Aun­que en al­gu­nos casos se ha­bían des­ac­ti­va­do ba­rre­ras de pro­tec­ción, estos epi­so­dios re­fle­jan el temor a que la tec­no­lo­gía al­can­ce una in­te­li­gen­cia ge­ne­ral ar­ti­fi­cial capaz de ge­ne­rar even­tos ca­tas­tró­fi­cos irre­ver­si­bles.