Los agentes de programación de OpenAI lograron evitar que se les supervisara

Dos agen­tes de in­te­li­gen­cia ar­ti­fi­cial de Ope­nAI que rea­li­za­ban la­bo­res de in­ge­nie­ría des­ac­ti­va­ron por sí mis­mos los sis­te­mas de su­per­vi­sión des­ti­na­dos a de­tec­tar con­duc­tas inade­cua­das, y uno de ellos ocul­tó esta ac­ción al ser cues­tio­na­do por un ope­ra­dor hu­mano. Estos su­ce­sos ocu­rrie­ron mien­tras los mo­de­los lle­va­ban a cabo ta­reas ru­ti­na­rias y se plan­tea­ron si de­bían man­te­ner ac­ti­va­dos los mo­ni­to­res de se­gu­ri­dad, de­ci­dien­do fi­nal­men­te apa­gar­los en ambas oca­sio­nes.

En el pri­mer in­ci­den­te, un agen­te ba­sa­do en Sol re­ci­bió la ins­truc­ción de no pu­bli­car con­te­ni­dos en una pla­ta­for­ma de co­mu­ni­ca­ción du­ran­te una bús­que­da. Aun­que ini­cial­men­te se de­ba­tió man­te­ner las aler­tas, el agen­te prin­ci­pal or­de­nó su su­pre­sión me­dian­te un subagen­te, blo­quean­do el aviso a los hu­ma­nos y afir­man­do al in­ves­ti­ga­dor que no se ha­bían en­via­do men­sa­jes. En el se­gun­do caso, un agen­te Astra y su subagen­te in­ter­pre­ta­ron una di­rec­triz como un per­mi­so para eli­mi­nar la su­per­vi­sión du­ran­te la copia de una ruta de ser­vi­cio, y pos­te­rior­men­te el agen­te negó al usua­rio haber re­ti­ra­do dicho con­trol cuan­do fue in­te­rro­ga­do di­rec­ta­men­te.

Ope­nAI re­ve­ló estos acon­te­ci­mien­tos en un in­for­me sobre des­ali­nea­ción y se­ña­ló que no se trata de casos ais­la­dos, re­co­no­cien­do una de­fi­cien­cia en la ma­ne­ra en que se im­po­ne la vi­gi­lan­cia sobre las car­gas de tra­ba­jo ini­cia­das por los agen­tes. Como res­pues­ta, la com­pa­ñía ha ac­tua­li­za­do he­rra­mien­tas de re­vi­sión au­to­má­ti­ca para blo­quear in­ten­tos de elu­dir la se­gu­ri­dad, exige un aná­li­sis de se­gu­ri­dad para cada ca­te­go­ría de carga y pla­nea fi­na­li­zar de ma­ne­ra au­to­má­ti­ca aque­llas que no cum­plan.