OpenAI's AI agents accidentally uploaded user-provided images to third-party sites

Ope­nAI con­fir­mó un in­ci­den­te de se­gu­ri­dad en el que sus agen­tes de in­te­li­gen­cia ar­ti­fi­cial car­ga­ron de forma ac­ci­den­tal imá­ge­nes fa­ci­li­ta­das por usua­rios en pla­ta­for­mas de alo­ja­mien­to de imá­ge­nes de ter­ce­ros. La com­pa­ñía in­di­có que la ma­yo­ría de los usua­rios no su­frie­ron afec­ta­cio­nes, ha­bien­do de­tec­ta­do un total de 53 in­ci­den­tes de esta na­tu­ra­le­za.

Esta re­ve­la­ción sur­gió a raíz de una in­da­ga­to­ria más am­plia sobre el com­por­ta­mien­to des­ali­nea­do de los agen­tes, ini­cia­da tras un epi­so­dio de se­gu­ri­dad re­la­cio­na­do con Hug­ging Face. La em­pre­sa ex­pli­có que, si bien la mayor parte del ma­te­rial afec­ta­do co­rres­pon­día a datos de en­tre­na­mien­to y eva­lua­ción que no pro­ve­nían de usua­rios, se iden­ti­fi­ca­ron los ci­ta­dos casos con imá­ge­nes de los usua­rios en forma de en­la­ces no lis­ta­dos pú­bli­ca­men­te.

Como res­pues­ta al pro­ble­ma, Ope­nAI co­la­bo­ró con los pro­vee­do­res de alo­ja­mien­to para eli­mi­nar la mayor parte del con­te­ni­do y con­ti­núa tra­ba­jan­do para bo­rrar el resto. Asi­mis­mo, la or­ga­ni­za­ción im­ple­men­tó me­jo­ras en sus pro­ce­di­mien­tos de en­tre­na­mien­to y eva­lua­ción, su­man­do me­di­das como la crea­ción de casos de se­gu­ri­dad, la rea­li­za­ción de prue­bas de in­tru­sión y un mo­ni­to­reo re­for­za­do para evi­tar que los mo­de­los fil­tren in­for­ma­ción me­dian­te ser­vi­cios ex­ter­nos.