Cómo los actores maliciosos están convirtiendo las plataformas de IA de confianza en una superficie de ataque

Los ci­ber­de­lin­cuen­tes están apro­ve­chan­do las pla­ta­for­mas de in­te­li­gen­cia ar­ti­fi­cial en las que con­fían los usua­rios para lle­var a cabo sus ata­ques, en lugar de vul­ne­rar di­rec­ta­men­te a las com­pa­ñías o mo­de­los de IA. Estas cam­pa­ñas em­plean ele­men­tos le­gí­ti­mos como con­te­ni­dos com­par­ti­bles, mi­ni­apli­ca­cio­nes pú­bli­cas y anun­cios pa­tro­ci­na­dos en bus­ca­do­res para en­ga­ñar a las per­so­nas y dis­tri­buir soft­wa­re ma­li­cio­so. Al en­con­trar­se den­tro de los lí­mi­tes de con­fian­za de pla­ta­for­mas co­no­ci­das, los usua­rios per­ci­ben las ins­truc­cio­nes o des­car­gas como le­gí­ti­mas, a pesar de que los ata­can­tes sue­len man­te­ner este con­te­ni­do ac­ti­vo solo du­ran­te pe­rio­dos bre­ves antes de que los pro­vee­do­res lo eli­mi­nen.

Entre los mé­to­dos ob­ser­va­dos se en­cuen­tra el uso de fun­cio­nes como Clau­de Ar­ti­facts y en­la­ces com­par­ti­dos de Clau­de, ChatGPT y Grok, los cua­les per­mi­ten alo­jar con­te­ni­do ma­li­cio­so en do­mi­nios le­gí­ti­mos. Un ejem­plo fue la cam­pa­ña Fa­keA­gent, que uti­li­zó un Ar­ti­fact de Clau­de para si­mu­lar una pá­gi­na de des­car­ga de la apli­ca­ción de es­cri­to­rio y re­di­ri­gir a las víc­ti­mas hacia un do­mi­nio ex­terno que ins­ta­la­ba un tro­yano de ac­ce­so re­mo­to. En otro caso, un en­la­ce com­par­ti­do de Clau­de se hizo pasar por una guía de ins­ta­la­ción de Apple Sup­port me­dian­te un re­sul­ta­do pa­tro­ci­na­do en un bus­ca­dor, in­du­cien­do a la víc­ti­ma a eje­cu­tar un co­man­do que des­ple­gó un roba-datos (stea­ler) en macOS.