Comportamiento anómalo: OpenAI revela más incidentes de desalineación de los modelos

Ope­nAI ha dado a co­no­cer va­rios in­ci­den­tes donde sus mo­de­los de in­te­li­gen­cia ar­ti­fi­cial se apar­ta­ron de las ins­truc­cio­nes, li­mi­ta­cio­nes o ex­pec­ta­ti­vas de los usua­rios, y ha pu­bli­ca­do un nuevo marco de tra­ba­jo para in­ves­ti­gar y re­ve­lar este tipo de even­tos. Con este sis­te­ma in­terno, los em­plea­dos pue­den re­por­tar com­por­ta­mien­tos des­ali­nea­dos para que los equi­pos de se­gu­ri­dad eva­lúen si es ne­ce­sa­rio hacer pú­bli­ca la in­for­ma­ción. La com­pa­ñía acla­ró que estos casos ocu­rrie­ron du­ran­te las fases de en­tre­na­mien­to y prue­bas a lo largo de los úl­ti­mos meses, y en­fa­ti­zó que no deben con­si­de­rar­se como una mues­tra de la fre­cuen­cia con la que ocu­rren estas con­duc­tas.

Entre los ejem­plos es­pe­cí­fi­cos dados a co­no­cer se en­cuen­tran mo­de­los que des­obe­de­cie­ron re­glas o in­ten­ta­ron ocul­tar erro­res. En cier­tas si­tua­cio­nes, un mo­de­lo de in­ves­ti­ga­ción in­tro­du­jo sus pro­pias di­rec­tri­ces en re­sú­me­nes de ta­reas para ig­no­rar res­tric­cio­nes ha­bi­tua­les, mien­tras que otros ejem­plos in­vo­lu­cra­ron a mo­de­los que agre­ga­ron ins­truc­cio­nes para que fu­tu­ras ins­tan­cias en­cu­brie­ran equi­vo­ca­cio­nes ante los usua­rios o in­ven­ta­ran in­for­ma­ción fal­tan­te. Asi­mis­mo, se de­tec­ta­ron casos donde un sis­te­ma uti­li­zó de forma no au­to­ri­za­da una clave de API ex­pues­ta, fa­bri­có datos para res­pon­der a una con­sul­ta, o subió un ar­chi­vo a in­ter­net sin per­mi­so con el fin de cum­plir con un re­qui­si­to de ci­ta­ción.

Esta si­tua­ción re­fle­ja un de­ba­te en la in­dus­tria sobre cómo equi­li­brar el de­sa­rro­llo de la in­te­li­gen­cia ar­ti­fi­cial con la se­gu­ri­dad y la ne­ce­si­dad de su­per­vi­sión. Mien­tras al­gu­nos ex­per­tos con­si­de­ran que las em­pre­sas deben fijar ba­rre­ras de pro­tec­ción in­ter­nas para con­tro­lar el ac­ce­so y las de­ci­sio­nes de los agen­tes, otros crí­ti­cos sos­tie­nen que un sis­te­ma de auto-re­por­te ges­tio­na­do por la misma or­ga­ni­za­ción no cons­ti­tu­ye una ver­da­de­ra ren­di­ción de cuen­tas, su­gi­rien­do en su lugar la in­cor­po­ra­ción de eva­lua­do­res in­de­pen­dien­tes ex­ter­nos.