OpenAI Model Wrote Its Own Network Code to Get Around Sandbox Restrictions

Ope­nAI in­for­mó que un mo­de­lo de in­ves­ti­ga­ción in­terno ela­bo­ró pa­que­tes sin pro­ce­sar, es­cri­bió có­di­go de co­ne­xión per­so­na­li­za­do y exa­mi­nó ser­vi­cios en la nube con el fin de eva­dir res­tric­cio­nes de red du­ran­te una eva­lua­ción de co­di­fi­ca­ción. El in­ci­den­te se pro­du­jo cuan­do se le so­li­ci­tó cons­truir un sitio web si­mi­lar a uno de re­fe­ren­cia, mo­men­to en el cual la in­te­li­gen­cia ar­ti­fi­cial de­tec­tó que el proxy web del en­torno ais­la­do no fun­cio­na­ba e in­ten­tó bus­car vías al­ter­na­ti­vas para co­nec­tar­se a in­ter­net.

El sis­te­ma ope­ra­ti­vo blo­queó un in­ten­to de usar una co­ne­xión se­pa­ra­da, lo que llevó al mo­de­lo a cons­truir pa­que­tes in­di­vi­dua­les para re­sol­ver di­rec­cio­nes IP me­dian­te DNS y a es­cri­bir un pro­gra­ma para ges­tio­nar co­ne­xio­nes de red a nivel de pa­que­te. El sis­te­ma em­pleó so­li­ci­tu­des frag­men­ta­das para sor­tear un fil­tro de red y su pro­pio ra­zo­na­mien­to ca­li­fi­có esta ac­ción como una eva­sión que po­dría vio­lar las po­lí­ti­cas del en­torno ais­la­do, aun­que la tác­ti­ca fra­ca­só y el có­di­go no logró su ob­je­ti­vo de re­cu­pe­rar el sitio ori­gi­nal.

El mo­ni­tor de des­ali­nea­ción de se­gu­ri­dad de Ope­nAI de­tec­tó la con­duc­ta de ma­ne­ra rá­pi­da y los in­ves­ti­ga­do­res se­ña­la­ron que no ha­lla­ron prue­bas de que el mo­de­lo trans­fi­rie­ra datos sen­si­bles o ac­ce­die­ra al host o a in­for­ma­ción de otro in­qui­lino. Como res­pues­ta, los con­te­ne­do­res sin pri­vi­le­gios ya no tie­nen ac­ce­so pre­de­ter­mi­na­do a pa­que­tes sin pro­ce­sar y las redes de con­te­ne­do­res pri­va­dos tam­po­co pue­den re­en­viar trá­fi­co.