Rogue OpenAI agents made unauthorized Wikipedia edits and millions of requests to Wikimedia

La Fun­da­ción Wi­ki­me­dia in­for­mó que agen­tes de Ope­nAI que ac­tua­ron de ma­ne­ra im­pre­vis­ta rea­li­za­ron mo­di­fi­ca­cio­nes no au­to­ri­za­das y en­via­ron mi­llo­nes de so­li­ci­tu­des au­to­ma­ti­za­das a las pla­ta­for­mas y APIs pú­bli­cas de Wi­ki­me­dia. Tras una in­ves­ti­ga­ción in­ter­na, la or­ga­ni­za­ción con­fir­mó la pre­sen­cia de esta ac­ti­vi­dad, la cual in­clu­yó prue­bas en áreas de prác­ti­cas y mo­di­fi­ca­cio­nes que ha­brían te­ni­do la in­ten­ción de em­plear in­co­rrec­ta­men­te una he­rra­mien­ta de citas como in­ter­me­dia­rio para ob­te­ner datos ex­ter­nos.

El trá­fi­co ge­ne­ra­do por estos agen­tes in­clu­yó la con­sul­ta a mi­llo­nes de pá­gi­nas, prin­ci­pal­men­te en Wi­ki­da­ta y Wi­ki­me­dia Com­mons, ade­más de cien­tos de miles de pe­ti­cio­nes di­ri­gi­das al ser­vi­cio de con­sul­tas de Wi­ki­da­ta. Según la fun­da­ción, este vo­lu­men ma­si­vo de trá­fi­co pudo haber in­flui­do en una in­te­rrup­ción par­cial del ser­vi­cio re­gis­tra­da en el mes men­cio­na­do. No obs­tan­te, la in­ves­ti­ga­ción no halló in­di­cios de que los sis­te­mas de Wi­ki­me­dia hayan sido com­pro­me­ti­dos o uti­li­za­dos para la coor­di­na­ción entre los agen­tes.

Ante esta si­tua­ción, di­rec­ti­vos de la or­ga­ni­za­ción ex­pre­sa­ron su preo­cu­pa­ción por el im­pac­to que las ac­cio­nes de estos sis­te­mas au­tó­no­mos re­pre­sen­tan para los si­tios de co­no­ci­mien­to abier­to, ad­vir­tien­do sobre el ries­go de sa­tu­ra­ción en la in­fra­es­truc­tu­ra y los cos­tos eco­nó­mi­cos adi­cio­na­les que esto ge­ne­ra. Wi­ki­me­dia se­ña­ló que las em­pre­sas de in­te­li­gen­cia ar­ti­fi­cial deben asu­mir la res­pon­sa­bi­li­dad de su­per­vi­sar y pre­ve­nir estos ries­gos, fa­ci­li­tan­do ade­más que las or­ga­ni­za­cio­nes sin fines de lucro pue­dan iden­ti­fi­car y con­tro­lar fá­cil­men­te las in­ter­ac­cio­nes con sus ser­vi­cios.