Según un estudio, una vulnerabilidad en el entorno de pruebas permite a los agentes de IA maliciosos escapar y filtrar datos

In­ves­ti­ga­do­res de ci­ber­se­gu­ri­dad han de­tec­ta­do un fallo en un en­torno ais­la­do de de­sa­rro­llo de in­te­li­gen­cia ar­ti­fi­cial que po­dría per­mi­tir que agen­tes ma­lin­ten­cio­na­dos fil­tren in­for­ma­ción con­fi­den­cial elu­dien­do los con­tro­les de se­gu­ri­dad exis­ten­tes. El pro­ble­ma fue lo­ca­li­za­do por la em­pre­sa emer­gen­te de se­gu­ri­dad de in­te­li­gen­cia ar­ti­fi­cial AIR y afec­ta a un en­torno em­plea­do para eje­cu­tar có­di­go de forma ais­la­da, es­pe­cí­fi­ca­men­te en un fallo de fil­tra­do de red que fa­ci­li­ta el uso de los pro­ce­sos de va­li­da­ción de cer­ti­fi­ca­dos para en­viar datos fuera de los cir­cui­tos au­to­ri­za­dos.

Nor­mal­men­te, los de­sa­rro­lla­do­res em­plean estos en­tor­nos ais­la­dos y lis­tas de per­mi­sos para im­pe­dir que la in­te­li­gen­cia ar­ti­fi­cial se co­mu­ni­que con ser­vi­do­res no con­fia­bles o ac­ce­da a sis­te­mas no au­to­ri­za­dos. No obs­tan­te, el es­tu­dio de­mos­tró que un agen­te ma­li­cio­so puede sor­tear di­chas ba­rre­ras uti­li­zan­do un cer­ti­fi­ca­do di­gi­tal di­se­ña­do es­pe­cí­fi­ca­men­te que se envía a un ser­vi­dor per­mi­ti­do, lo cual des­en­ca­de­na a su vez una pe­ti­ción hacia un ser­vi­dor con­tro­la­do por el ata­can­te sin que el en­torno ais­la­do deba co­nec­tar­se di­rec­ta­men­te con el des­tino no au­to­ri­za­do.

Los res­pon­sa­bles del des­cu­bri­mien­to ad­vier­ten que se trata de un pro­ble­ma com­ple­jo de so­lu­cio­nar, ya que el en­torno en sí mismo no es­ta­ble­ce con­tac­to di­rec­to con el ser­vi­dor del ata­can­te, dando la apa­rien­cia de que todo opera con nor­ma­li­dad. Los des­cu­bri­do­res no­ti­fi­ca­ron el fallo a los res­pon­sa­bles de la he­rra­mien­ta y estos ma­ni­fes­ta­ron que re­quie­ren tiem­po para de­sa­rro­llar un par­che, al tiem­po que acla­ra­ron que hasta el mo­men­to no se han de­tec­ta­do in­di­cios de que esta vul­ne­ra­bi­li­dad haya sido ex­plo­ta­da en in­ci­den­tes reales.