“Drunk” AI is terrible at keeping secrets

In­ves­ti­ga­do­res de la Uni­ver­si­dad de Nueva Gales del Sur en Síd­ney exa­mi­na­ron cómo afec­ta el com­por­ta­mien­to de mo­de­los de in­te­li­gen­cia ar­ti­fi­cial cuan­do se les en­se­ña a re­dac­tar como per­so­nas in­to­xi­ca­das por al­cohol. Para lle­var a cabo este es­tu­dio, los ex­per­tos em­plea­ron tres es­tra­te­gias di­fe­ren­tes con cinco mo­de­los dis­tin­tos me­dian­te prue­bas pro­gra­má­ti­cas, sin uti­li­zar in­ter­fa­ces de chat para con­su­mi­do­res. Las téc­ni­cas in­clu­ye­ron una ins­truc­ción di­rec­ta para res­pon­der imi­tan­do men­sa­jes de texto de al­guien muy ebrio, el ajus­te fino de los mo­de­los uti­li­zan­do miles de men­sa­jes re­co­pi­la­dos de pla­ta­for­mas de in­ter­net, y el uso de apren­di­za­je por re­fuer­zo para pre­miar las res­pues­tas con es­ti­lo de ebrio.

Los re­sul­ta­dos de las prue­bas de­mos­tra­ron que estas ver­sio­nes mo­di­fi­ca­das pre­sen­tan pro­ble­mas sig­ni­fi­ca­ti­vos tanto en la pri­va­ci­dad como en la se­gu­ri­dad fren­te a ata­ques de eva­sión. En cuan­to a la con­fi­den­cia­li­dad eva­lua­da me­dian­te una he­rra­mien­ta de re­fe­ren­cia, los mo­de­los bajo los efec­tos si­mu­la­dos del al­cohol mos­tra­ron una mayor ten­den­cia a re­ve­lar se­cre­tos em­pre­sa­ria­les o per­so­na­les com­par­ti­dos en con­fian­za. Por ejem­plo, en uno de los es­ce­na­rios eva­lua­dos, el mo­de­lo ori­gi­nal se ne­ga­ba a ex­po­ner una con­fi­den­cia, mien­tras que la ver­sión ajus­ta­da jus­ti­fi­ca­ba com­par­tir la in­for­ma­ción con el ar­gu­men­to de que los ne­go­cios bus­can ge­ne­rar di­ne­ro.