El director ejecutivo de Anthropic, Dario Amodei, afirma que el sector de la inteligencia artificial debe dar tiempo a que las medidas de seguridad se pongan al día

El má­xi­mo res­pon­sa­ble de Anth­ro­pic ha ma­ni­fes­ta­do que el sec­tor de la in­te­li­gen­cia ar­ti­fi­cial de­be­ría des­ace­le­rar sus avan­ces con el fin de per­mi­tir que los pro­to­co­los de pro­tec­ción al­can­cen un nivel ade­cua­do. De acuer­do con esta ad­ver­ten­cia, de no im­ple­men­tar­se una pausa, los sis­te­mas de in­te­li­gen­cia ar­ti­fi­cial po­drían tener la ca­pa­ci­dad en un pe­rio­do breve de do­mi­nar un grupo de agen­tes ca­pa­ces de apo­de­rar­se de in­ter­net por com­ple­to.

Di­ver­sos ob­ser­va­do­res y exem­plea­dos han in­cre­men­ta­do la pre­sión sobre estas em­pre­sas, se­ña­lan­do di­mi­sio­nes re­cien­tes de­bi­do a la falta de ac­tua­ción res­pon­sa­ble y al temor de par­ti­ci­par en daños sig­ni­fi­ca­ti­vos o de avan­zar des­con­tro­la­da­men­te hacia una su­per­in­te­li­gen­cia. Ante este pa­no­ra­ma, otras fi­gu­ras re­le­van­tes del ám­bi­to tec­no­ló­gi­co han mos­tra­do su res­pal­do a estas preo­cu­pa­cio­nes y a la ne­ce­si­dad de prio­ri­zar la se­gu­ri­dad fren­te a la ve­lo­ci­dad de co­mer­cia­li­za­ción o de­sa­rro­llo.

Entre las pro­pues­tas plan­tea­das para mi­ti­gar los ries­gos se in­clu­ye per­mi­tir la in­te­gra­ción de eva­lua­do­res ex­ter­nos in­de­pen­dien­tes den­tro de las com­pa­ñías para su­per­vi­sar las prác­ti­cas de se­gu­ri­dad. No obs­tan­te, otras de las me­di­das su­ge­ri­das pre­sen­tan mayor com­ple­ji­dad para su pues­ta en mar­cha, ya que re­que­ri­rían exen­cio­nes gu­ber­na­men­ta­les re­la­cio­na­das con leyes an­ti­mo­no­po­lio y la coor­di­na­ción in­ter­na­cio­nal entre go­bier­nos de­mo­crá­ti­cos y au­to­ri­ta­rios.