Outerlimit recauda 16 millones de dólares para evitar que los agentes de IA rebeldes causen daños

La em­pre­sa Ou­ter­li­mit ha fi­na­li­za­do su etapa de bajo per­fil tras con­se­guir una fi­nan­cia­ción pre­via a la co­mer­cia­li­za­ción de die­ci­seis mi­llo­nes de dó­la­res, res­pal­da­da por va­rios fon­dos de in­ver­sión y dis­tin­tos in­ver­so­res án­ge­les. La com­pa­ñía, ubi­ca­da en Nueva York y fun­da­da por Tony Pep­per, Neil Lar­kins y Peter Vin­cent, pro­po­ne una capa de se­gu­ri­dad y au­to­ri­za­ción des­cen­tra­li­za­da para pro­te­ger la in­te­li­gen­cia ar­ti­fi­cial au­tó­no­ma y agén­ti­ca.

Las em­pre­sas están in­te­gran­do rá­pi­da­men­te estos agen­tes au­tó­no­mos para ace­le­rar de­ci­sio­nes y au­to­ma­ti­zar ta­reas, aun­que su uso en pro­pó­si­tos cada vez más com­ple­jos di­fi­cul­ta la de­fi­ni­ción de lí­mi­tes para sus ac­cio­nes. A di­fe­ren­cia de la ci­ber­se­gu­ri­dad tra­di­cio­nal orien­ta­da a los hu­ma­nos, que se apoya en re­glas y en el temor a las con­se­cuen­cias, este en­fo­que no fun­cio­na con la in­te­li­gen­cia ar­ti­fi­cial au­tó­no­ma, ya que ca­re­ce de mo­ra­li­dad y de miedo.

Ante la di­fi­cul­tad de con­tro­lar el com­por­ta­mien­to de estos mo­de­los, la es­tra­te­gia de se­gu­ri­dad debe cen­trar­se en la pre­ven­ción de daños me­dian­te la de­tec­ción, ob­ser­va­ción y apli­ca­ción de po­lí­ti­cas pre­de­fi­ni­das sobre las ac­cio­nes per­mi­ti­das y prohi­bi­das. La tec­no­lo­gía de­sa­rro­lla­da por Ou­ter­li­mit opera a la ve­lo­ci­dad de la má­qui­na para ade­lan­tar­se a los agen­tes y blo­quear cual­quier con­duc­ta per­ju­di­cial, in­de­pen­dien­te­men­te de si el agen­te está co­rrec­ta­men­te ali­nea­do o no.