Anthropic details what stops Claude Duet from going rogue

La com­pa­ñía Anth­ro­pic ha pre­sen­ta­do las me­di­das de se­gu­ri­dad y pri­va­ci­dad im­ple­men­ta­das en su agen­te de in­te­li­gen­cia ar­ti­fi­cial Clau­de Duet, di­se­ña­do para vi­gi­lar cuen­tas vin­cu­la­das y rea­li­zar ope­ra­cio­nes en au­sen­cia de los usua­rios me­dian­te un or­de­na­dor y un na­ve­ga­dor alo­ja­dos en la nube. Esta apli­ca­ción in­de­pen­dien­te, ac­tual­men­te dis­po­ni­ble en una lista de es­pe­ra de vista pre­via de in­ves­ti­ga­ción para cier­tos sus­crip­to­res en Es­ta­dos Uni­dos, em­plea pro­tec­cio­nes que com­pren­den con­tro­les au­to­ma­ti­za­dos, re­que­ri­mien­tos de au­to­ri­za­ción y una in­fra­es­truc­tu­ra que man­tie­ne las cre­den­cia­les ale­ja­das del al­can­ce del mo­de­lo.

Para mi­ti­gar ries­gos, Duet so­li­ci­ta va­li­da­ción hu­ma­na antes de eje­cu­tar ac­cio­nes con­si­de­ra­das po­ten­cial­men­te de­li­ca­das, tales como el envío de men­sa­jes, pagos o la eli­mi­na­ción de datos, mos­tran­do la in­for­ma­ción de­ta­lla­da de la pro­pues­ta. Adi­cio­nal­men­te, un sis­te­ma au­to­ma­ti­za­do in­de­pen­dien­te eva­lúa si la ac­ción se ali­nea con la in­ten­ción del usua­rio para pre­ve­nir in­ter­fe­ren­cias de ins­truc­cio­nes ocul­tas en pá­gi­nas web. Cier­tas ac­ti­vi­da­des como el co­mer­cio de va­lo­res o el ac­ce­so a cuen­tas aje­nas si­guen es­tan­do prohi­bi­das de forma per­ma­nen­te, y la em­pre­sa re­co­no­ce que el ex­ce­so de so­li­ci­tu­des de apro­ba­ción puede ge­ne­rar fa­ti­ga en los usua­rios.