Risks Spelled Out for Anthropic Investors Include Possible Harms From Runaway AI

Al pre­pa­rar la venta de ac­cio­nes en Wall Street, la em­pre­sa de in­te­li­gen­cia ar­ti­fi­cial Anth­ro­pic ha pre­sen­ta­do un do­cu­men­to ante la Co­mi­sión de Bolsa y Va­lo­res que de­ta­lla los po­si­bles pe­li­gros para los in­ver­so­res. Una parte sig­ni­fi­ca­ti­va de las pá­gi­nas del re­gis­tro está de­di­ca­da ex­clu­si­va­men­te a los fac­to­res de ries­go que po­drían afec­tar las in­ver­sio­nes, su­peran­do en pro­por­ción a las de otras com­pa­ñías.

Entre los pe­li­gros des­cri­tos se in­clu­yen la po­si­bi­li­dad de que per­so­nas ma­lin­ten­cio­na­das uti­li­cen los mo­de­los tec­no­ló­gi­cos para crear armas le­ta­les, par­ti­ci­pen en ci­ber­ata­ques, di­fun­dan in­for­ma­ción falsa o que re­gí­me­nes au­to­ri­ta­rios vi­gi­len a sus ciu­da­da­nos. Asi­mis­mo, la em­pre­sa ad­vier­te sobre el de­sa­rro­llo ace­le­ra­do de la in­te­li­gen­cia ar­ti­fi­cial, lo que po­dría im­pe­dir la apli­ca­ción de me­di­das de se­gu­ri­dad ade­cua­das, ge­ne­rar sis­te­mas au­tó­no­mos fuera de con­trol y su­pe­rar la ca­pa­ci­dad hu­ma­na para eva­luar­los y pro­te­ger­los.

El do­cu­men­to tam­bién se­ña­la obs­tácu­los más co­mu­nes, como la li­mi­ta­ción en los re­cur­sos de pro­ce­sa­mien­to compu­tacio­nal, la opo­si­ción de las co­mu­ni­da­des al de­sa­rro­llo de cen­tros de datos de­bi­do a su im­pac­to am­bien­tal y la de­pen­den­cia de un grupo re­du­ci­do de clien­tes para una parte im­por­tan­te de sus in­gre­sos. A pesar de estas ad­ver­ten­cias, Anth­ro­pic pre­sen­ta su ofer­ta pú­bli­ca ini­cial como un paso para mi­ti­gar di­chos ries­gos, des­ta­can­do su en­fo­que orien­ta­do a la se­gu­ri­dad en el de­sa­rro­llo de la in­te­li­gen­cia ar­ti­fi­cial.