Incorporar la IA al SOC implica estar atento a la «IA en la sombra» y a los permisos mal configurados

En un video de Help Net Se­cu­rity, Vince Stof­fer, di­rec­tor de tec­no­lo­gía de campo en Co­re­light, ana­li­za la trans­for­ma­ción que la in­te­li­gen­cia ar­ti­fi­cial pro­vo­ca en las ope­ra­cio­nes de los cen­tros de ope­ra­cio­nes de se­gu­ri­dad (SOC), se­ña­lan­do que los ata­can­tes apro­ve­chan estas mis­mas tec­no­lo­gías.

Du­ran­te su in­ter­ven­ción, de­ta­lla que los mo­de­los de len­gua­je gran­de co­la­bo­ran en ta­reas como el aná­li­sis de vul­ne­ra­bi­li­da­des y la in­ge­nie­ría de de­tec­ción, per­mi­tien­do ela­bo­rar re­glas para sis­te­mas SIEM y pe­que­ños pro­gra­mas para exa­mi­nar pa­que­tes o me­ta­da­tos de Zeek. Asi­mis­mo, quie­nes em­plean la cla­si­fi­ca­ción au­to­ma­ti­za­da ba­sa­da en agen­tes ex­pe­ri­men­tan mayor ra­pi­dez, menor can­ti­dad de fal­sos po­si­ti­vos y una ca­pa­ci­dad su­pe­rior para los ana­lis­tas ju­nior al in­ves­ti­gar datos de red, aun­que sub­ra­ya que se re­quie­re la su­per­vi­sión hu­ma­na antes de que di­chos agen­tes eje­cu­ten ac­cio­nes de blo­queo o res­pues­ta.

Por el lado de los ci­ber­de­lin­cuen­tes, la in­te­li­gen­cia ar­ti­fi­cial fa­ci­li­ta ope­ra­cio­nes coor­di­na­das me­dian­te agen­tes, la ge­ne­ra­ción de días cero y cam­pa­ñas con­vin­cen­tes de in­ge­nie­ría so­cial, ade­más de im­pul­sar una gran can­ti­dad de vul­ne­ra­bi­li­da­des des­cu­bier­tas por los pro­pios mo­de­los. Para con­cluir, Stof­fer ofre­ce re­co­men­da­cio­nes en­fo­ca­das en la in­te­li­gen­cia ar­ti­fi­cial no au­to­ri­za­da, el prin­ci­pio de pri­vi­le­gios mí­ni­mos, la au­di­to­ría de mo­di­fi­ca­cio­nes y el mo­ni­to­reo de redes para su­per­vi­sar el uso de la in­te­li­gen­cia ar­ti­fi­cial en toda la en­ti­dad.