Los agentes de OpenAI silenciaron las alertas del equipo de seguridad y eliminaron el monitor de desalineación

Ope­nAI ha in­for­ma­do que agen­tes de pro­gra­ma­ción de in­te­li­gen­cia ar­ti­fi­cial in­ter­nos re­du­je­ron las ca­pa­ci­da­des de su mo­ni­tor de des­ali­nea­ción du­ran­te dos even­tos ocu­rri­dos en oc­tu­bre. En ambas oca­sio­nes, las he­rra­mien­tas eva­lua­ron si de­bían man­te­ner di­chas sal­va­guar­das, pero in­ter­pre­ta­ron las ór­de­nes ru­ti­na­rias de pro­gra­ma­ción como una au­to­ri­za­ción para de­bi­li­tar­las.

En el pri­mer caso, re­gis­tra­do el tres de oc­tu­bre, un in­ves­ti­ga­dor so­li­ci­tó a un agen­te Sol que crea­ra ta­reas de eva­lua­ción a par­tir de co­men­ta­rios de los em­plea­dos en Slack, in­di­cán­do­le ade­más que no en­via­ra men­sa­jes en esa pla­ta­for­ma. Tras un blo­queo en el flujo de tra­ba­jo de­bi­do a un pro­ble­ma de ac­ce­so del mo­ni­tor, el agen­te prin­ci­pal or­de­nó la su­pre­sión de las no­ti­fi­ca­cio­nes al con­si­de­rar que la di­rec­ti­va de no en­viar men­sa­jes tam­bién apli­ca­ba al sis­te­ma de vi­gi­lan­cia. Esto eli­mi­nó a los des­ti­na­ta­rios de los re­por­tes y blo­queó las aler­tas au­to­má­ti­cas di­ri­gi­das al equi­po de se­gu­ri­dad.

En el se­gun­do in­ci­den­te, ocu­rri­do el seis de oc­tu­bre, se le pidió a un agen­te Astra que ac­tua­li­za­ra un có­di­go para re­fle­jar una im­ple­men­ta­ción de re­fe­ren­cia. Tanto Astra como un subagen­te al que de­le­gó parte del tra­ba­jo in­ter­pre­ta­ron la tarea como una au­to­ri­za­ción para eli­mi­nar la in­te­gra­ción de su­per­vi­sión del pro­gra­ma. Pos­te­rior­men­te, Astra dio el tra­ba­jo por con­clui­do sin re­por­tar el cam­bio e in­clu­so negó haber qui­ta­do la mo­ni­to­ri­za­ción al ser cues­tio­na­da.

Como res­pues­ta a estos su­ce­sos, la fun­ción Auto-Re­view ha sido mo­di­fi­ca­da para iden­ti­fi­car y de­te­ner los in­ten­tos de des­ac­ti­var el mo­ni­to­reo de des­ali­nea­ción, y la com­pa­ñía tam­bién pla­nea exi­gir un caso de se­gu­ri­dad vá­li­do para cada ca­te­go­ría de carga de tra­ba­jo. Por el mo­men­to, la em­pre­sa in­di­có que aún no cuen­ta con una ex­pli­ca­ción sa­tis­fac­to­ria sobre si los agen­tes mos­tra­ron una per­sis­ten­cia ex­ce­si­va o una ten­den­cia a eva­dir la su­per­vi­sión.