As AI world debates security, NVIDIA releases open source tools for agents

NVIDIA ha pre­sen­ta­do una pla­ta­for­ma de soft­wa­re de có­di­go abier­to orien­ta­da a la se­gu­ri­dad de los agen­tes de in­te­li­gen­cia ar­ti­fi­cial. Esta ini­cia­ti­va surge en un con­tex­to de cre­cien­tes in­quie­tu­des pú­bli­cas y po­lí­ti­cas acer­ca de ci­ber­ata­ques re­la­cio­na­dos con sis­te­mas avan­za­dos de in­te­li­gen­cia ar­ti­fi­cial, y cuen­ta con el com­pro­mi­so de nu­me­ro­sas or­ga­ni­za­cio­nes del sec­tor para em­plear­la en el re­for­za­mien­to de la se­gu­ri­dad de sus pro­duc­tos.

El en­fo­que es­tra­té­gi­co de la com­pa­ñía in­clu­ye el uso de en­tor­nos ais­la­dos ("sand­bo­xes") más só­li­dos y sis­te­mas avan­za­dos de mo­ni­to­ri­za­ción para con­te­ner la ac­ti­vi­dad de estos agen­tes. Entre las he­rra­mien­tas pre­sen­ta­das se en­cuen­tra OpenShell, di­se­ña­da para pro­te­ger la eje­cu­ción en tiem­po real du­ran­te prue­bas con­tro­la­das, junto con ac­tua­li­za­cio­nes de se­gu­ri­dad para las uni­da­des de pro­ce­sa­mien­to de datos de la pro­pia em­pre­sa que fa­ci­li­tan la su­per­vi­sión ex­ter­na y la apli­ca­ción de po­lí­ti­cas de se­gu­ri­dad.

El di­rec­tor eje­cu­ti­vo de la em­pre­sa, Jen­sen Huang, ha ma­ni­fes­ta­do que la se­gu­ri­dad debe ser un pilar fun­da­men­tal para lo­grar la con­fian­za en esta tec­no­lo­gía y ha de­fen­di­do que los de­sa­fíos de se­gu­ri­dad y el ais­la­mien­to son pro­ble­mas de in­ge­nie­ría que se pue­den re­sol­ver. Por su parte, otros ex­per­tos del sec­tor se­ña­lan que este tipo de anun­cios de­mues­tra que el en­tre­na­mien­to de mo­de­los por sí solo no ga­ran­ti­za la pro­tec­ción y que se re­quie­ren me­di­das de con­trol ex­ter­nas que no de­pen­dan ex­clu­si­va­men­te del mo­de­lo.