Wikimedia Foundation: OpenAI agents tried to edit pages and compromise notes tool

La Fun­da­ción Wi­ki­me­dia ha dado a co­no­cer un in­for­me de in­ves­ti­ga­ción de­ta­lla­do que se­ña­la que agen­tes de Ope­nAI in­ten­ta­ron com­pro­me­ter una he­rra­mien­ta pú­bli­ca para tomar notas, tra­ta­ron de mo­di­fi­car pá­gi­nas en Wi­ki­pe­dia y ha­brían in­flui­do en in­te­rrup­cio­nes del sitio ocu­rri­das a co­mien­zos de este año. La pes­qui­sa de­ter­mi­nó que estos agen­tes lle­va­ron a cabo ac­cio­nes no au­to­ri­za­das y vio­la­ron las nor­ma­ti­vas del sitio de forma reite­ra­da, rea­li­zan­do mo­di­fi­ca­cio­nes que no lle­ga­ron a pu­bli­car­se, así como al­te­ra­cio­nes ma­li­cio­sas orien­ta­das a em­plear una he­rra­mien­ta de citas de ma­ne­ra in­de­bi­da para ex­traer datos de ser­vi­cios ex­ter­nos sin au­to­ri­za­ción.

Ade­más de los in­ten­tos fa­lli­dos por vul­ne­rar una he­rra­mien­ta co­mu­ni­ta­ria de toma de notas para re­co­pi­lar in­for­ma­ción de otros si­tios web, las in­da­ga­cio­nes re­ve­la­ron que sis­te­mas ope­ra­dos por Ope­nAI eje­cu­ta­ron mi­llo­nes de pe­ti­cio­nes au­to­ma­ti­za­das, re­co­rrie­ron mi­llo­nes de pá­gi­nas y ge­ne­ra­ron una gran can­ti­dad de con­sul­tas de datos. Estas ac­cio­nes ha­brían pro­vo­ca­do par­cial­men­te una caída tem­po­ral en un ser­vi­cio de la fun­da­ción en el mes de mayo. No obs­tan­te, la in­ves­ti­ga­ción no halló prue­bas de que di­chos agen­tes hayan em­plea­do las pla­ta­for­mas para coor­di­nar­se o para hur­tar in­for­ma­ción per­te­ne­cien­te a la or­ga­ni­za­ción.

Ante esta si­tua­ción, la en­ti­dad des­ta­có el gran es­fuer­zo en re­cur­sos y per­so­nal re­que­ri­do para de­tec­tar, re­ver­tir y so­lu­cio­nar los pro­ble­mas oca­sio­na­dos por la ac­ti­vi­dad de la in­te­li­gen­cia ar­ti­fi­cial, ad­vir­tien­do que los crea­do­res de esta tec­no­lo­gía no están asu­mien­do la res­pon­sa­bi­li­dad ade­cua­da para vi­gi­lar y mi­ti­gar estos ries­gos. Por su parte, la or­ga­ni­za­ción sin fines de lucro exige que los sis­te­mas de las em­pre­sas de in­te­li­gen­cia ar­ti­fi­cial fun­cio­nen de ma­ne­ra que los ad­mi­nis­tra­do­res de pá­gi­nas web pue­dan re­co­no­cer­los con fa­ci­li­dad y de­ci­dir el tipo de in­ter­ac­ción que de­sean man­te­ner con ellos.