Trump, Tech Giants Strike Voluntary AI Safety Accord

Los lí­de­res de seis des­ta­ca­das em­pre­sas tec­no­ló­gi­cas fir­ma­ron un acuer­do vo­lun­ta­rio sobre "su­per­in­te­li­gen­cia" en la Casa Blan­ca con el pre­si­den­te Do­nald Trump, com­pro­me­tién­do­se a es­ta­ble­cer ma­yo­res res­guar­dos y con­tro­les in­ter­nos en el de­sa­rro­llo de sis­te­mas avan­za­dos de in­te­li­gen­cia ar­ti­fi­cial. Esta ini­cia­ti­va con­jun­ta surge ante la cre­cien­te preo­cu­pa­ción sobre los ries­gos de se­gu­ri­dad que im­pli­can estas tec­no­lo­gías, abar­can­do desde po­si­bles ci­ber­ata­ques hasta apli­ca­cio­nes pe­li­gro­sas en in­fra­es­truc­tu­ra crí­ti­ca o in­ves­ti­ga­ción quí­mi­ca. El pacto ac­tual no es­ta­ble­ce pla­zos de im­ple­men­ta­ción obli­ga­to­rios, aun­que con­tem­pla la po­si­bi­li­dad de que estas me­di­das se con­vier­tan en leyes o re­gu­la­cio­nes en el fu­tu­ro.

El acuer­do es­ta­ble­ce un es­que­ma de su­per­vi­sión com­pues­to por cua­tro capas para los la­bo­ra­to­rios de in­te­li­gen­cia ar­ti­fi­cial. Dicho marco in­clu­ye con­tro­les in­ter­nos du­ran­te el en­tre­na­mien­to y la dis­po­si­ción de los mo­de­los, la crea­ción de equi­pos in­ter­nos de­di­ca­dos a ve­ri­fi­car el fun­cio­na­mien­to de di­chos con­tro­les, la par­ti­ci­pa­ción de un au­di­tor ex­terno e in­de­pen­dien­te para re­vi­sar las me­di­das, y la de­sig­na­ción de un co­mi­té in­de­pen­dien­te den­tro de la junta di­rec­ti­va para vi­gi­lar el pro­ce­so y la so­lu­ción de pro­ble­mas.

Di­ver­sos ex­per­tos en se­gu­ri­dad han ma­ni­fes­ta­do opi­nio­nes di­vi­di­das sobre la efi­ca­cia del pacto. Por un lado, al­gu­nos con­si­de­ran que se trata de un avan­ce po­si­ti­vo y un punto de par­ti­da ade­cua­do para fo­men­tar la ges­tión de ries­gos sin es­pe­rar a que sur­jan re­gu­la­cio­nes gu­ber­na­men­ta­les. Por otro lado, crí­ti­cos se­ña­lan que la na­tu­ra­le­za vo­lun­ta­ria del acuer­do, la au­sen­cia de una apli­ca­ción obli­ga­to­ria, la falta de pla­zos y re­que­ri­mien­tos de in­for­mes pú­bli­cos, así como el mar­gen que se le da a cada em­pre­sa para de­fi­nir sus pro­pias eva­lua­cio­nes, re­pre­sen­tan de­bi­li­da­des sig­ni­fi­ca­ti­vas que po­drían li­mi­tar su im­pac­to real.