La pregunta sobre seguridad en materia de IA que los líderes deberían plantearse en su lugar

En una en­tre­vis­ta, Fre­de­ric Bull, ofi­cial de se­gu­ri­dad en Grem­lin, ana­li­za las im­pli­ca­cio­nes de la in­te­li­gen­cia ar­ti­fi­cial para los equi­pos de se­gu­ri­dad. Se­ña­la que la pre­gun­ta ha­bi­tual sobre los datos de en­tre­na­mien­to de un mo­de­lo busca pro­te­ger la con­fi­den­cia­li­dad, pero re­sul­ta in­su­fi­cien­te para una es­tra­te­gia de se­gu­ri­dad com­ple­ta. Como al­ter­na­ti­va más re­le­van­te, des­ta­ca la im­por­tan­cia de man­te­ner la au­to­ri­dad y la in­te­gri­dad de los datos me­dian­te con­tro­les de ac­ce­so y el prin­ci­pio de menor pri­vi­le­gio, uti­li­zan­do tec­no­lo­gías como RBAC ba­sa­do en se­sio­nes y per­mi­sos con­tex­tua­les para ase­gu­rar que los agen­tes de in­te­li­gen­cia ar­ti­fi­cial no su­peren sus ca­pa­ci­da­des.

Por otro lado, el ar­tícu­lo abor­da cómo la in­te­li­gen­cia ar­ti­fi­cial ha in­cre­men­ta­do la ve­lo­ci­dad y el vo­lu­men de las vul­ne­ra­bi­li­da­des re­por­ta­das, re­du­cien­do la asi­me­tría de ha­bi­li­da­des entre ata­can­tes y de­fen­so­res. En su pro­pia ex­pe­rien­cia, Grem­lin logró pro­ce­sar nueve veces más vul­ne­ra­bi­li­da­des man­te­nien­do el mismo per­so­nal gra­cias al uso de he­rra­mien­tas de in­te­li­gen­cia ar­ti­fi­cial. Sin em­bar­go, esto tam­bién ha mo­di­fi­ca­do los per­fi­les de con­tra­ta­ción, ya que ahora se va­lo­ra a pro­fe­sio­na­les ex­pe­ri­men­ta­dos ca­pa­ces de iden­ti­fi­car res­pues­tas in­co­rrec­tas pero se­gu­ras emi­ti­das por la in­te­li­gen­cia ar­ti­fi­cial, lo que a su vez di­fi­cul­ta que los nue­vos ta­len­tos ad­quie­ran la ex­pe­rien­cia ne­ce­sa­ria.