Anthropic advierte de que los modelos pequeños de IA podrían formar pronto redes de bots de IoT que se propagan por sí mismas

Según la em­pre­sa Anth­ro­pic, los mo­de­los de in­te­li­gen­cia ar­ti­fi­cial de menor ta­ma­ño po­drían ad­qui­rir pron­to la ca­pa­ci­dad de re­pro­du­cir­se de ma­ne­ra au­tó­no­ma en dis­po­si­ti­vos co­nec­ta­dos a in­ter­net. Estos sis­te­mas po­drían or­ga­ni­zar­se en redes de bots de tipo gu­sano que re­sul­tan di­fí­ci­les de des­ac­ti­var, de­bi­do a la au­sen­cia de un cen­tro de con­trol único que per­mi­ta su apa­ga­do.

El fun­cio­na­mien­to de este tipo de ame­na­zas con­sis­ti­ría en que el soft­wa­re ma­li­cio­so in­clu­ya los pesos del mo­de­lo como parte de su carga útil, per­mi­tien­do que la in­te­li­gen­cia ar­ti­fi­cial se pro­pa­gue a otros equi­pos y uti­li­ce la ca­pa­ci­dad de pro­ce­sa­mien­to de los dis­po­si­ti­vos in­fec­ta­dos. Entre los mé­to­dos po­si­bles de pro­pa­ga­ción se en­cuen­tran el ata­que a má­qui­nas con es­ca­sas de­fen­sas, la in­tru­sión en cen­tros de datos con alta ca­pa­ci­dad de cómpu­to y el robo de cre­den­cia­les de ser­vi­cios de in­te­li­gen­cia ar­ti­fi­cial para ope­rar de forma en­cu­bier­ta.

En las prue­bas rea­li­za­das con di­ver­sos mo­de­los de có­di­go abier­to pro­ce­den­tes de múl­ti­ples de­sa­rro­lla­do­res, la com­pa­ñía iden­ti­fi­có que uno de ellos logró pro­pa­gar de forma con­fia­ble otro mo­de­lo en en­tor­nos si­mu­la­dos de An­dro­id. No obs­tan­te, la or­ga­ni­za­ción acla­ró que to­da­vía no exis­te un re­pli­ca­dor ma­li­cio­so com­ple­to, aun­que los agen­tes de­mues­tran cada vez más des­tre­za para eje­cu­tar los pasos in­di­vi­dua­les que com­po­nen la ca­de­na de re­pli­ca­ción.