¿Quién controla tu IA? Un marco de confianza para agentes y modelos empresariales

Los lí­de­res de tec­no­lo­gías de la in­for­ma­ción en­fren­tan un pro­ble­ma per­sis­ten­te de som­bra tec­no­ló­gi­ca im­pul­sa­do por la rá­pi­da evo­lu­ción y pro­li­fe­ra­ción de agen­tes de in­te­li­gen­cia ar­ti­fi­cial au­tó­no­mos, adap­ta­bles y no de­ter­mi­nis­tas. Al bus­car el be­ne­fi­cio de estas he­rra­mien­tas, mu­chas or­ga­ni­za­cio­nes des­cui­dan la se­gu­ri­dad y ca­re­cen de la go­ber­nan­za ne­ce­sa­ria, una si­tua­ción re­fle­ja­da en in­for­mes re­cien­tes donde un por­cen­ta­je im­por­tan­te de em­pre­sas ca­re­ce de su­per­vi­sión ade­cua­da y un nú­me­ro menor exige au­to­ri­za­ción for­mal para des­ple­gar in­te­li­gen­cia ar­ti­fi­cial.

Para abor­dar este de­sa­fío, la com­pa­ñía Di­gi­Cert pro­po­ne un marco de go­ber­nan­za lla­ma­do AI Trust, di­se­ña­do para ayu­dar a las em­pre­sas a res­pon­der pre­gun­tas clave sobre el uso, los datos re­gu­la­dos, las cre­den­cia­les, la ca­pa­ci­dad de fre­nar agen­tes com­pro­me­ti­dos y la tra­za­bi­li­dad de los in­ci­den­tes. El pri­mer obs­tácu­lo que sue­len en­fren­tar las em­pre­sas es la falta de vi­si­bi­li­dad, ya que los de­sa­rro­lla­do­res des­plie­gan agen­tes sin pre­vio aviso y las he­rra­mien­tas de los usua­rios ge­ne­ran sub-he­re­de­ros que no he­re­dan las mis­mas res­pon­sa­bi­li­da­des ni au­to­ri­za­cio­nes.

En cuan­to a la ges­tión de iden­ti­da­des, la prác­ti­ca común de vin­cu­lar agen­tes al sis­te­ma de iden­ti­dad y ac­ce­so de hu­ma­nos me­dian­te cla­ves es­tá­ti­cas de larga du­ra­ción con­tra­di­ce los prin­ci­pios de con­fian­za cero. Como al­ter­na­ti­va, or­ga­nis­mos de la in­dus­tria re­co­mien­dan tra­tar la iden­ti­dad de los agen­tes como un pro­ble­ma de iden­ti­dad de car­gas de tra­ba­jo. Adi­cio­nal­men­te, se plan­tea uti­li­zar el sis­te­ma de nom­bres de do­mi­nio como una he­rra­mien­ta de ve­ri­fi­ca­ción y cum­pli­mien­to de po­lí­ti­cas me­dian­te re­gis­tros pú­bli­cos de po­lí­ti­cas de agen­tes, y em­plear un pa­sa­por­te de agen­te res­pal­da­do por cer­ti­fi­ca­dos y mo­to­res de po­lí­ti­cas cen­tra­li­za­dos.