Vijil DART comprueba si los agentes de IA presentan fallos de seguridad e incumplimientos de las políticas

La em­pre­sa Vijil ha lan­za­do una so­lu­ción au­to­ma­ti­za­da lla­ma­da Dia­mond Adap­ti­ve Red Tea­ming para Agen­tes (DART), di­se­ña­da para iden­ti­fi­car fa­llos de se­gu­ri­dad e in­frac­cio­nes de nor­ma­ti­vas en agen­tes de in­te­li­gen­cia ar­ti­fi­cial em­pre­sa­ria­les. Esta he­rra­mien­ta uti­li­za múl­ti­ples agen­tes ad­ver­sa­rios pro­pios para poner a prue­ba las de­fen­sas del sis­te­ma ob­je­ti­vo me­dian­te ata­ques de múl­ti­ples tur­nos que apren­den y cam­bian de tác­ti­ca de forma di­ná­mi­ca. De este modo, los de­sa­rro­lla­do­res y los in­ge­nie­ros de se­gu­ri­dad pue­den de­tec­tar pro­ble­mas de ma­ne­ra más am­plia en com­pa­ra­ción con los mé­to­dos tra­di­cio­na­les ba­sa­dos en con­sul­tas es­tá­ti­cas.

El sis­te­ma se di­fe­ren­cia de otras he­rra­mien­tas de prue­ba exis­ten­tes por­que no se li­mi­ta a se­guir pa­tro­nes co­no­ci­dos o guio­nes fijos, sino que eva­lúa al agen­te en su to­ta­li­dad —in­clu­yen­do su me­mo­ria, com­por­ta­mien­to y uso de he­rra­mien­tas— en su pro­pio en­torno. DART es capaz de ana­li­zar la res­pues­ta del agen­te, mo­di­fi­car su es­tra­te­gia y re­in­ten­tar las veces que sea ne­ce­sa­rio sin re­que­rir ins­truc­cio­nes pre­vias sobre qué vul­ne­ra­bi­li­da­des bus­car. Ade­más, se in­te­gra en los flu­jos de tra­ba­jo de De­vOps y puede eje­cu­tar­se de ma­ne­ra au­to­má­ti­ca a gran es­ca­la, ofre­cien­do fle­xi­bi­li­dad de im­ple­men­ta­ción en la nube pri­va­da vir­tual del clien­te o en en­tor­nos lo­ca­les.

Entre sus ca­rac­te­rís­ti­cas prin­ci­pa­les se in­clu­yen una co­ber­tu­ra de ries­go per­so­na­li­za­ble, el en­ca­de­na­mien­to de ata­ques adap­ta­ti­vos y he­rra­mien­tas aptas para de­sa­rro­lla­do­res a tra­vés de com­ple­men­tos. En una eva­lua­ción re­cien­te con un punto de re­fe­ren­cia es­pe­cí­fi­co, DART su­peró a su com­pe­ti­dor más cer­cano en di­ver­sas ta­reas em­pre­sa­ria­les de múl­ti­ples do­mi­nios. Su di­rec­tor eje­cu­ti­vo se­ña­ló que esta so­lu­ción ayuda a ce­rrar la bre­cha entre una de­mos­tra­ción exi­to­sa y un agen­te ver­da­de­ra­men­te se­gu­ro, re­du­cien­do con­si­de­ra­ble­men­te el tiem­po y el costo en com­pa­ra­ción con las prue­bas ma­nua­les.