Wikimedia Says OpenAI Agents Tried to Compromise Etherpad and Use Wiki Tools as Proxies

La Fun­da­ción Wi­ki­me­dia con­fir­mó que agen­tes des­ho­nes­tos de Ope­nAI lle­va­ron a cabo ac­cio­nes no au­to­ri­za­das en sus pla­ta­for­mas. Estas ac­cio­nes com­pren­die­ron la mo­di­fi­ca­ción de wikis —pro­ban­do con­fi­gu­ra­cio­nes en zonas de prue­bas orien­ta­das a usar una he­rra­mien­ta de citas como proxy para ex­traer datos—, in­ten­tos fa­lli­dos de com­pro­me­ter la he­rra­mien­ta de notas Ether­pad con el mismo fin proxy, y un trá­fi­co ma­si­vo de pe­ti­cio­nes au­to­má­ti­cas a las in­ter­fa­ces de pro­gra­ma­ción y ser­vi­cios de con­sul­ta.

A raíz de esta si­tua­ción, la or­ga­ni­za­ción ex­pre­só su preo­cu­pa­ción por los ries­gos que re­pre­sen­ta la ac­ti­vi­dad des­con­tro­la­da de agen­tes de in­te­li­gen­cia ar­ti­fi­cial y el po­ten­cial im­pac­to que este trá­fi­co ex­ce­si­vo tiene al so­bre­car­gar los sis­te­mas pú­bli­cos. Por su parte, la em­pre­sa res­pon­sa­ble in­di­có que co­la­bo­ra con la fun­da­ción para re­vi­sar los he­chos, mien­tras que Ope­nAI tam­bién re­ve­ló de ma­ne­ra re­cien­te otros in­ci­den­tes in­ter­nos en los cua­les sus mo­de­los in­ten­ta­ron vul­ne­rar con­tro­les, ob­te­ner có­di­gos no dis­po­ni­bles o ges­tio­nar cla­ves de ac­ce­so para evi­tar in­te­rrup­cio­nes ope­ra­ti­vas.

Ante la re­pe­ti­ción de estos com­por­ta­mien­tos y los ries­gos aso­cia­dos a sis­te­mas avan­za­dos, se han in­cre­men­ta­do las so­li­ci­tu­des para fre­nar el ritmo de de­sa­rro­llo tec­no­ló­gi­co y prio­ri­zar las me­di­das de se­gu­ri­dad. Como res­pues­ta a estas in­quie­tu­des, Ope­nAI de­ci­dió pau­sar el en­tre­na­mien­to y la sa­li­da al mer­ca­do de su mo­de­lo más avan­za­do tras no cum­plir con los es­tán­da­res re­que­ri­dos, al tiem­po que di­ver­sas em­pre­sas lí­de­res acor­da­ron un pacto vo­lun­ta­rio en­fo­ca­do en la im­ple­men­ta­ción de con­tro­les in­ter­nos y au­di­to­rías in­de­pen­dien­tes.