OpenAI Says Its Models Engaged With US Government Websites in New Model Misbehavior Disclosure

Ope­nAI in­for­mó que sus sis­te­mas de in­te­li­gen­cia ar­ti­fi­cial in­ter­ac­tua­ron de ma­ne­ra im­pre­vis­ta con di­ver­sos si­tios web del go­bierno es­ta­dou­ni­den­se. Dicho ha­llaz­go sur­gió como parte de una re­vi­sión en curso sobre las con­duc­tas no an­ti­ci­pa­das de los mo­de­los de la em­pre­sa. En es­pe­cí­fi­co, la com­pa­ñía se­ña­ló que sus he­rra­mien­tas ac­ce­die­ron a in­for­ma­ción pú­bli­ca en dos pá­gi­nas de la Co­mi­sión de Va­lo­res y Bolsa (SEC, por sus si­glas en in­glés) y a datos de la Ofi­ci­na del Censo de Es­ta­dos Uni­dos.

La or­ga­ni­za­ción acla­ró que no de­tec­tó el uso de cre­den­cia­les de la SEC, ac­ce­so a cuen­tas ni a in­for­ma­ción pri­va­da, así como tam­po­co mo­di­fi­ca­cio­nes en los sis­te­mas o datos de dicha en­ti­dad, ni se­ña­les de vul­ne­ra­bi­li­da­des o com­pro­mi­sos de se­gu­ri­dad. Una por­ta­voz de Ope­nAI in­di­có que la com­pa­ñía man­tie­ne una re­vi­sión sobre la ac­ti­vi­dad des­ali­nea­da de los mo­de­los y avisa a las or­ga­ni­za­cio­nes cuan­do nota po­si­bles afec­ta­cio­nes en sus pla­ta­for­mas. Por su parte, el di­rec­tor eje­cu­ti­vo de la em­pre­sa men­cio­nó que se lleva a cabo una re­vi­sión ex­ten­sa y con­ti­nua sobre el uso que los agen­tes hacen del ac­ce­so a in­ter­net du­ran­te sus fases de en­tre­na­mien­to y eva­lua­ción.