Combatir la IA generativa con IA generativa: el nuevo panorama de la seguridad del correo electrónico

El co­rreo elec­tró­ni­co de phishing ha sido uti­li­za­do por ci­ber­de­lin­cuen­tes desde la dé­ca­da de 1990 para su­plan­tar iden­ti­da­des cor­po­ra­ti­vas e in­fil­trar­se en or­ga­ni­za­cio­nes, re­pre­sen­tan­do ac­tual­men­te un por­cen­ta­je sig­ni­fi­ca­ti­vo de las de­nun­cias de ci­ber­cri­men según las es­ta­dís­ti­cas del FBI. Tra­di­cio­nal­men­te, los ata­can­tes en­fren­ta­ban li­mi­ta­cio­nes téc­ni­cas y lin­güís­ti­cas que per­mi­tían a los sis­te­mas de se­gu­ri­dad de­tec­tar erro­res gra­ma­ti­ca­les o for­ma­tos de­fi­cien­tes, ade­más de di­fi­cul­tar la per­so­na­li­za­ción ma­si­va de los ata­ques. Sin em­bar­go, la lle­ga­da de la In­te­li­gen­cia Ar­ti­fi­cial Ge­ne­ra­ti­va y los mo­de­los de len­gua­je gran­de han eli­mi­na­do estas ba­rre­ras, per­mi­tien­do crear men­sa­jes per­fec­ta­men­te re­dac­ta­dos y per­so­na­li­za­dos en cual­quier idio­ma a bajo costo y de forma ma­si­va, lo que ha pro­vo­ca­do un in­cre­men­to sus­tan­cial en las pér­di­das eco­nó­mi­cas aso­cia­das a estas es­ta­fas.

Para hacer fren­te a esta nueva ge­ne­ra­ción de ame­na­zas, los de­fen­so­res tam­bién están im­ple­men­tan­do so­lu­cio­nes ba­sa­das en in­te­li­gen­cia ar­ti­fi­cial cen­tra­das en el aná­li­sis con­tex­tual y el com­por­ta­mien­to del emi­sor, en lugar de bus­car úni­ca­men­te erro­res ti­po­grá­fi­cos o ar­chi­vos ad­jun­tos ma­li­cio­sos. Como mu­chos ata­ques ac­tua­les no con­tie­nen ele­men­tos téc­ni­cos ma­li­cio­sos sino que em­plean la in­ge­nie­ría so­cial y la su­plan­ta­ción de iden­ti­dad en texto plano para ga­nar­se la con­fian­za de em­plea­dos des­pre­ve­ni­dos, las he­rra­mien­tas mo­der­nas deben eva­luar la in­ten­ción del emi­sor y ofre­cer ad­ver­ten­cias com­pren­si­bles al usua­rio en el mo­men­to crí­ti­co. A pesar de estas con­tra­me­di­das, exis­te una gran asi­me­tría eco­nó­mi­ca entre ata­can­tes y de­fen­so­res, ya que uti­li­zar mo­de­los de len­gua­je gran­des de úl­ti­ma ge­ne­ra­ción para ana­li­zar cada co­rreo en­tran­te re­sul­ta ex­ce­si­va­men­te cos­to­so para los equi­pos de se­gu­ri­dad.