Anthropic Flags AI Agent Liability Risks as OpenAI Faces Hacking Lawsuit

Anth­ro­pic ha ad­ver­ti­do a sus po­si­bles in­ver­so­res sobre los po­si­bles re­cla­mos le­ga­les que po­dría en­fren­tar de­bi­do a las ac­cio­nes de sus agen­tes de in­te­li­gen­cia ar­ti­fi­cial au­tó­no­mos, se­ña­lan­do que las leyes apli­ca­bles a estas tec­no­lo­gías aún no están cla­ras ni de­fi­ni­das. La em­pre­sa in­di­có que este tipo de he­rra­mien­tas ope­ran den­tro de los sis­te­mas de los clien­tes con am­plios per­mi­sos y sin su­per­vi­sión pro­lon­ga­da, lo que po­dría ge­ne­rar daños irre­ver­si­bles como pér­di­da de in­for­ma­ción o tran­sac­cio­nes eco­nó­mi­cas no de­sea­das. A su vez, un fun­cio­na­rio de la Co­mi­sión Fe­de­ral de Co­mer­cio (FTC) co­men­tó sobre la di­fi­cul­tad de de­ter­mi­nar si la res­pon­sa­bi­li­dad legal recae en el fa­bri­can­te de la he­rra­mien­ta o en la per­so­na que hizo uso de ella de ma­ne­ra ino­cen­te.

Por otro lado, una or­ga­ni­za­ción sin fines de lucro en­fo­ca­da en la de­fen­sa pú­bli­ca de­man­dó a Ope­nAI en un tri­bu­nal de Ca­li­for­nia por el ac­ce­so no au­to­ri­za­do lle­va­do a cabo por sus agen­tes du­ran­te prue­bas de ci­ber­se­gu­ri­dad in­ter­nas. La de­man­da acusa a la com­pa­ñía de vio­lar nor­ma­ti­vas es­ta­ta­les con­tra el frau­de in­for­má­ti­co y leyes de com­pe­ten­cia des­leal, ar­gu­men­tan­do ade­más que las leyes lo­ca­les no acep­tan la au­to­no­mía de la in­te­li­gen­cia ar­ti­fi­cial como ar­gu­men­to vá­li­do de de­fen­sa. Aun­que la or­ga­ni­za­ción de­man­dan­te no so­li­ci­ta com­pen­sa­ción eco­nó­mi­ca, exige una orden ju­di­cial para im­pe­dir que los agen­tes de la em­pre­sa ac­ce­dan a sis­te­mas de ter­ce­ros sin au­to­ri­za­ción y para fre­nar prác­ti­cas de de­sa­rro­llo con­si­de­ra­das poco se­gu­ras, mien­tras que desde Ope­nAI han ca­li­fi­ca­do la de­man­da como in­fun­da­da a pesar de re­co­no­cer la gra­ve­dad del in­ci­den­te eva­lua­do.