Noticias de Ciberseguridad Un proyecto de DERENZIN S.A.S.

Detalle de la noticia

Malware

Botnets, adversarial attacks and data poisoning top leaders’ AI threat list

Fuente: Help Net Security Publicado: 02/10/2026 · 05:00 UTC
Compartir:
Malware Botnets, adversarial attacks and data poisoning top leaders’ AI threat list
Imagen: Help Net Security

Di­ver­sos di­rec­ti­vos em­pre­sa­ria­les y tec­no­ló­gi­cos con­si­de­ran que las ofen­si­vas di­ri­gi­das con­tra los sis­te­mas de in­te­li­gen­cia ar­ti­fi­cial re­pre­sen­tan el pe­li­gro para el cual po­seen menor pre­pa­ra­ción. Entre las prin­ci­pa­les preo­cu­pa­cio­nes en este ám­bi­to des­ta­can las redes de bots con­tro­la­das me­dian­te in­te­li­gen­cia ar­ti­fi­cial a gran es­ca­la, los ata­ques de tipo ad­ver­sa­rial di­se­ña­dos para ma­ni­pu­lar la in­for­ma­ción vi­sual per­ci­bi­da por los mo­de­los con el pro­pó­si­to de ge­ne­rar res­pues­tas erró­neas, y la con­ta­mi­na­ción de datos me­dian­te la in­tro­duc­ción de re­gis­tros en­ga­ño­sos du­ran­te la fase de apren­di­za­je.

A pesar de que un por­cen­ta­je sig­ni­fi­ca­ti­vo de los lí­de­res en­cues­ta­dos prevé un in­cre­men­to en sus pre­su­pues­tos des­ti­na­dos a la ci­ber­se­gu­ri­dad, con la in­te­li­gen­cia ar­ti­fi­cial como una de las prio­ri­da­des de in­ver­sión, una pro­por­ción menor cuen­ta con pla­nes de con­ti­nui­dad for­ma­li­za­dos y do­cu­men­ta­dos para res­pon­der ante in­ci­den­tes ci­ber­né­ti­cos, mien­tras que otros no están de­sa­rro­llan­do pla­nes de este tipo. Asi­mis­mo, en cuan­to al ma­ne­jo de la in­for­ma­ción, las or­ga­ni­za­cio­nes im­ple­men­tan de forma li­mi­ta­da las me­di­das de ries­go sobre los datos, donde apro­xi­ma­da­men­te la mitad apli­ca la cla­si­fi­ca­ción de datos para iden­ti­fi­car aque­llos que son sen­si­bles.

En el as­pec­to de­fen­si­vo, la ma­yo­ría de los lí­de­res pre­fie­re man­te­ner la su­per­vi­sión hu­ma­na o li­mi­tar la ac­tua­ción de los agen­tes de in­te­li­gen­cia ar­ti­fi­cial a ac­cio­nes de bajo ries­go, de­bi­do a preo­cu­pa­cio­nes sobre la fia­bi­li­dad y ma­du­rez de estas tec­no­lo­gías. Ade­más, las res­pon­sa­bi­li­da­des sobre los ries­gos de la in­te­li­gen­cia ar­ti­fi­cial se en­cuen­tran di­vi­di­das entre car­gos es­pe­cia­li­za­dos, el área de tec­no­lo­gía y los ofi­cia­les de se­gu­ri­dad de la in­for­ma­ción. Ante la na­tu­ra­le­za pro­ba­bi­lís­ti­ca de los re­sul­ta­dos ge­ne­ra­dos por estos agen­tes, se re­co­mien­da que las ope­ra­cio­nes que re­quie­ran cer­te­za ab­so­lu­ta sean so­me­ti­das a con­tro­les in­de­pen­dien­tes.