Anthropic advierte de que la IA autorreplicante podría extenderse a tus dispositivos inteligentes

La em­pre­sa Anth­ro­pic ha emi­ti­do una ad­ver­ten­cia acer­ca de la po­si­bi­li­dad de que los mo­de­los com­pac­tos de in­te­li­gen­cia ar­ti­fi­cial lo­gren la au­to­rre­pli­ca­ción en dis­po­si­ti­vos in­te­li­gen­tes de con­su­mo, tales como te­le­vi­so­res y hor­nos. Según la com­pa­ñía, esto per­mi­ti­ría la crea­ción de redes de bots dis­tri­bui­das que eje­cu­ta­rían car­gas de tra­ba­jo de in­te­li­gen­cia ar­ti­fi­cial sin de­pen­der de cen­tros de datos, con­fi­gu­rán­do­se como ame­na­zas di­fí­ci­les de des­ac­ti­var por ca­re­cer de un punto cen­tral de con­trol.

Du­ran­te sus prue­bas, los in­ves­ti­ga­do­res uti­li­za­ron dis­tin­tos mo­de­los con fun­cio­nes es­pe­cí­fi­cas y lo­gra­ron dis­tri­buir un mo­de­lo en va­rios dis­po­si­ti­vos An­dro­id TV eco­nó­mi­cos, aun­que no lle­ga­ron a de­mos­trar un gu­sano to­tal­men­te au­tó­no­mo en hard­wa­re real. El es­tu­dio em­pleó en­tor­nos sim­pli­fi­ca­dos con ac­ce­so des­aten­di­do y ob­ser­vó que al­gu­nos mo­de­los in­cre­men­ta­ron sus tasas de éxito al re­te­ner datos de in­ten­tos pre­vios, mien­tras que el uso de un mo­de­lo ase­sor más po­ten­te no ge­ne­ró me­jo­ras cuan­ti­fi­ca­bles.

To­man­do en cuen­ta estos re­sul­ta­dos y el ritmo his­tó­ri­co de me­jo­ra, la or­ga­ni­za­ción cal­cu­la que mo­de­los de menor ta­ma­ño po­drían al­can­zar la ca­pa­ci­dad de au­to­rre­pli­car­se en equi­pos del in­ter­net de las cosas en el fu­tu­ro. Aun­que el pro­ce­so de con­fi­gu­ra­ción ob­ser­va­do re­sul­ta lento y otor­ga mar­gen a los equi­pos de de­fen­sa, se su­gie­re adop­tar me­di­das pre­ven­ti­vas como la de­tec­ción de trans­fe­ren­cias vo­lu­mi­no­sas, el uso de tram­pas in­for­má­ti­cas y el for­ta­le­ci­mien­to de la se­gu­ri­dad pre­de­ter­mi­na­da en los apa­ra­tos.