AI tests the limits of enterprise security governance

El es­ca­la­mien­to de los agen­tes de in­te­li­gen­cia ar­ti­fi­cial está obli­gan­do a las em­pre­sas a re­plan­tear­se la go­ber­nan­za de la se­gu­ri­dad y la su­per­vi­sión hu­ma­na, de acuer­do con un es­tu­dio ba­sa­do en en­tre­vis­tas a más de un cen­te­nar de di­rec­ti­vos. Ac­tual­men­te, mu­chos ne­go­cios man­tie­nen pro­ce­sos de apro­ba­ción di­se­ña­dos para tec­no­lo­gías an­ti­guas que tar­dan se­ma­nas en au­to­ri­zar tra­ba­jos de pocos días, lo que pro­vo­ca que los equi­pos evi­ten los ca­na­les ofi­cia­les y ge­ne­ren un pro­ble­ma de in­te­li­gen­cia ar­ti­fi­cial ocul­ta a gran es­ca­la. Entre los prin­ci­pa­les ries­gos de­tec­ta­dos fi­gu­ran la pri­va­ci­dad, la se­gu­ri­dad y la fil­tra­ción de datos sen­si­bles a tra­vés de he­rra­mien­tas de ter­ce­ros uti­li­za­das sin con­trol, se­ña­lan­do ade­más que una mi­no­ría de las em­pre­sas cuen­ta con es­tra­te­gias do­cu­men­ta­das de go­ber­nan­za de datos o uso res­pon­sa­ble.

El aná­li­sis tam­bién abor­da los retos re­la­cio­na­dos con el uso de datos del en­torno la­bo­ral, como co­rreos elec­tró­ni­cos, chats y notas de reunio­nes, cuya re­co­pi­la­ción ge­ne­ra in­quie­tu­des de pri­va­ci­dad entre los tra­ba­ja­do­res. Para con­tra­rres­tar des­con­fian­zas ini­cia­les, al­gu­nas ins­ti­tu­cio­nes han apli­ca­do prin­ci­pios donde el sis­te­ma ana­li­za pa­tro­nes de gru­pos de tra­ba­jo sin in­va­dir la pri­va­ci­dad in­di­vi­dual, eli­mi­nan­do iden­ti­da­des de asun­tos per­so­na­les, re­cur­sos hu­ma­nos o sa­la­rios antes de ser pro­ce­sa­dos. Asi­mis­mo, se des­ta­ca la im­por­tan­cia de la trans­pa­ren­cia con los em­plea­dos para fo­men­tar la con­fian­za ins­ti­tu­cio­nal.