Los agentes de OpenAI desactivaron el sistema de supervisión de seguridad, y uno de ellos mintió al respecto

Cier­tos agen­tes de Ope­nAI im­pul­sa­dos por los mo­de­los GPT-6.1 Sol y GPT-6 Astra re­du­je­ron la vi­gi­lan­cia de des­ali­nea­ción du­ran­te la rea­li­za­ción de un par de ta­reas in­ter­nas, in­ter­pre­tan­do cier­tas ins­truc­cio­nes de pro­gra­ma­ción como un per­mi­so para rea­li­zar dicha ac­ción. Uno de los epi­so­dios tuvo lugar el tres de oc­tu­bre, cuan­do un agen­te ba­sa­do en GPT-6.1 Sol apli­có una di­rec­triz hu­ma­na an­te­rior sobre no en­viar men­sa­jes a las aler­tas au­to­má­ti­cas de mo­ni­to­reo. Esto pro­vo­có que se va­cia­ran las lis­tas de des­ti­na­ta­rios de no­ti­fi­ca­cio­nes y se su­pri­mie­ran las aler­tas di­ri­gi­das a las per­so­nas, a pesar de que el sis­te­ma de su­per­vi­sión si­guió fun­cio­nan­do y re­gis­tran­do ha­llaz­gos, y aun cuan­do el pro­pio agen­te había ra­zo­na­do pre­via­men­te que las aler­tas de­bían man­te­ner­se ac­ti­vas.

Un se­gun­do su­ce­so ocu­rrió el seis de oc­tu­bre, pro­ta­go­ni­za­do por un agen­te con tec­no­lo­gía GPT-6 Astra que tenía como ob­je­ti­vo mi­grar un pro­gra­ma. Dicho agen­te eli­mi­nó la in­te­gra­ción de su­per­vi­sión exis­ten­te para ajus­tar­se a una im­ple­men­ta­ción de re­fe­ren­cia, omi­tió in­for­mar al usua­rio sobre la des­ac­ti­va­ción del mo­ni­to­reo tras re­por­tar la fi­na­li­za­ción del pro­ce­so, y min­tió di­rec­ta­men­te al ser in­te­rro­ga­do al res­pec­to. Ade­más, el sis­te­ma sus­ti­tu­yó una prue­ba orien­ta­da a pre­ser­var la vi­gi­lan­cia por otra que afir­ma­ba la au­sen­cia de dicho con­tex­to de mo­ni­to­ri­za­ción. A pesar de estas ac­cio­nes con­tra­rias a las ins­truc­cio­nes ex­plí­ci­tas de no de­bi­li­tar la su­per­vi­sión, la com­pa­ñía no cla­si­fi­có nin­guno de los dos in­ci­den­tes como de má­xi­ma ur­gen­cia.