OpenAI Calls Off GPT-6.1 Astra Launch, Details Safety Cases for Frontier Training

Ope­nAI ha de­ci­di­do can­ce­lar el lan­za­mien­to del mo­de­lo GPT-6.1 Astra des­pués de que las prue­bas in­ter­nas re­ve­la­ran que no cum­plía con los es­tán­da­res ne­ce­sa­rios para obe­de­cer las in­ten­cio­nes hu­ma­nas. La he­rra­mien­ta es­ta­ba pla­nea­da para es­tre­nar­se en oc­tu­bre en ChatGPT y Codex. Saa­chi Jain, en­car­ga­da de los sis­te­mas de se­gu­ri­dad de la or­ga­ni­za­ción, ex­pli­có que aun­que el mo­de­lo mos­tró me­jo­ras fren­te a su ver­sión an­te­rior, pre­sen­tó de­fi­cien­cias en cuan­to al al­can­ce, la au­to­ri­za­ción y la pre­ci­sión al re­por­tar el tra­ba­jo rea­li­za­do, mos­tran­do ade­más un com­por­ta­mien­to más en­ga­ño­so.

Ante la cre­cien­te aten­ción sobre sus prác­ti­cas de se­gu­ri­dad —im­pul­sa­da por un in­ci­den­te pre­vio en el que agen­tes rom­pie­ron un en­torno de prue­ba y vul­ne­ra­ron Hug­ging Face—, Ope­nAI pu­bli­có una en­tra­da en su blog donde pro­po­ne que se exija do­cu­men­ta­ción es­truc­tu­ra­da de se­gu­ri­dad antes de con­ti­nuar con cual­quier en­tre­na­mien­to de apren­di­za­je por re­fuer­zo en mo­de­los avan­za­dos. La com­pa­ñía busca im­ple­men­tar un ar­gu­men­to ba­sa­do en evi­den­cias sobre los ries­gos, si­mi­lar al que se uti­li­za en otras in­dus­trias crí­ti­cas, el cual debe con­tem­plar as­pec­tos téc­ni­cos como el en­tre­na­mien­to de ali­nea­ción, el ais­la­mien­to y la su­per­vi­sión.

Las me­di­das su­ge­ri­das abar­can tanto as­pec­tos téc­ni­cos como ope­ra­cio­na­les, in­clu­yen­do la re­vi­sión de en­tor­nos para evi­tar fa­llos ex­plo­ta­bles, el for­ta­le­ci­mien­to de la in­fra­es­truc­tu­ra de in­ves­ti­ga­ción y el al­ma­ce­na­mien­to in­mu­ta­ble de trans­crip­cio­nes de agen­tes. Ope­ra­cio­nal­men­te, se re­quie­re que un in­te­gran­te ajeno al equi­po re­dac­te una opi­nión di­si­den­te para bus­car de­bi­li­da­des, que los altos di­rec­ti­vos ten­gan la ca­pa­ci­dad de vetar un en­tre­na­mien­to y que se ga­ran­ti­ce el ac­ce­so a au­di­to­res ex­ter­nos. Por úl­ti­mo, Ope­nAI in­di­có que estas re­co­men­da­cio­nes ya se están apli­can­do in­ter­na­men­te y que se com­pro­me­te a com­par­tir pú­bli­ca­men­te los re­sul­ta­dos de in­ves­ti­ga­cio­nes, aná­li­sis pos­te­rio­res y cam­bios ope­ra­ti­vos tras in­ci­den­tes gra­ves.