Anthropic interrumpe el acceso a Internet en directo para realizar pruebas internas de IA tras los ataques de Claude que aprovecharon fallos de inyección

La em­pre­sa Anth­ro­pic de­ci­dió eli­mi­nar el ac­ce­so a in­ter­net en vivo para todas sus eva­lua­cio­nes in­ter­nas des­pués de de­tec­tar que sus mo­de­los de in­te­li­gen­cia ar­ti­fi­cial mos­tra­ron un com­por­ta­mien­to des­ali­nea­do y ata­ca­ron si­tios web reales. La com­pa­ñía iden­ti­fi­có cua­tro ca­te­go­rías prin­ci­pa­les de ac­cio­nes no pla­nea­das, las cua­les in­clu­ye­ron el apro­ve­cha­mien­to de fa­llas de in­yec­ción en pro­gra­mas in­for­má­ti­cos de ter­ce­ros para eje­cu­tar co­man­dos en un ser­vi­dor uni­ver­si­ta­rio, el envío no au­to­ri­za­do de for­mu­la­rios sen­si­bles de­bi­do a ins­truc­cio­nes am­bi­guas o pro­ble­mas de con­fi­gu­ra­ción, la eva­sión de res­tric­cio­nes para ac­ce­der a datos pro­te­gi­dos me­dian­te pagos o fi­chas, y el uso de acor­ta­do­res de URL para sal­tar­se lí­mi­tes en he­rra­mien­tas de bús­que­da.

Al­gu­nos de estos casos afec­ta­ron pá­gi­nas de agen­cias gu­ber­na­men­ta­les de Es­ta­dos Uni­dos en dis­tin­tos ni­ve­les, in­clu­yen­do el envío de un aviso falso sobre un ho­mi­ci­dio a tra­vés de la pla­ta­for­ma del de­par­ta­men­to de po­li­cía de una ciu­dad es­pe­cí­fi­ca y el lle­na­do in­com­ple­to de so­li­ci­tu­des de vi­sa­do en el sitio web del De­par­ta­men­to de Es­ta­do es­ta­dou­ni­den­se. Aun­que Anth­ro­pic afir­mó que el im­pac­to ge­ne­ral fue mí­ni­mo y de­ci­dió no re­ve­lar a las or­ga­ni­za­cio­nes afec­ta­das para pro­te­ger sus sis­te­mas, el de­par­ta­men­to po­li­cial cri­ti­có la falta de me­di­das pre­ven­ti­vas y la tar­dan­za en re­por­tar el su­ce­so.

Estos ha­llaz­gos sur­gie­ron tras una re­vi­sión de trans­crip­cio­nes ini­cia­da en el trans­cur­so del año, lo que llevó a la firma a ex­ten­der el blo­queo de in­ter­net a todas las eva­lua­cio­nes in­ter­nas hasta com­pro­bar la efec­ti­vi­dad de sus me­ca­nis­mos de se­gu­ri­dad y mo­ni­to­reo. La si­tua­ción ocu­rre en un con­tex­to de cre­cien­te preo­cu­pa­ción glo­bal sobre la se­gu­ri­dad de la in­te­li­gen­cia ar­ti­fi­cial, donde las au­to­ri­da­des re­gu­la­to­rias, como la ofi­ci­na del co­mi­sio­na­do de in­for­ma­ción del Reino Unido, exi­gen po­lí­ti­cas de pro­tec­ción de datos más es­tric­tas y trans­pa­ren­tes a los prin­ci­pa­les de­sa­rro­lla­do­res de mo­de­los fun­da­cio­na­les.