Una encuesta de EY revela que la implantación de la IA autónoma va por delante de su supervisión

Una re­cien­te en­cues­ta rea­li­za­da a altos eje­cu­ti­vos de in­te­li­gen­cia ar­ti­fi­cial re­ve­la que la im­ple­men­ta­ción de sis­te­mas au­tó­no­mos e in­te­li­gen­cia ar­ti­fi­cial está avan­zan­do mucho más rá­pi­do que los con­tro­les y la su­per­vi­sión in­ter­na. Aun­que la gran ma­yo­ría de las or­ga­ni­za­cio­nes cuen­ta con po­lí­ti­cas for­ma­les de go­ber­nan­za, cerca de la mitad ha omi­ti­do di­chos pro­ce­sos en des­plie­gues ur­gen­tes, y mu­chos di­rec­ti­vos se­ña­lan una es­ca­sez de per­so­nal con la ex­pe­rien­cia in­ter­na ne­ce­sa­ria para di­se­ñar, im­ple­men­tar o ac­tua­li­zar estas me­di­das de con­trol.

El rá­pi­do cre­ci­mien­to de la in­te­li­gen­cia ar­ti­fi­cial agén­ti­ca ha ge­ne­ra­do nue­vos in­con­ve­nien­tes en ma­te­ria de su­per­vi­sión, ya que una parte sig­ni­fi­ca­ti­va de los en­cues­ta­dos in­di­ca que sus mar­cos de tra­ba­jo ac­tua­les aún no con­tem­plan los ries­gos es­pe­cí­fi­cos de esta tec­no­lo­gía y mu­chos no lo­gran de­tec­tar agen­tes no au­to­ri­za­dos ope­ran­do en sus redes. Ade­más, una im­por­tan­te por­ción de las em­pre­sas ha su­fri­do in­ci­den­tes o fa­llos re­la­cio­na­dos con la in­te­li­gen­cia ar­ti­fi­cial que pro­vo­ca­ron daños tan­gi­bles, como pér­di­das de datos, pro­ble­mas fi­nan­cie­ros, afec­ta­cio­nes ope­ra­ti­vas y per­jui­cios a la repu­tación.

Como res­pues­ta a estos de­sa­fíos, prác­ti­ca­men­te todas las com­pa­ñías en­cues­ta­das re­cu­rren a re­vi­sio­nes for­ma­les de ase­gu­ra­mien­to al menos una vez al año. Estos exá­me­nes a me­nu­do de­ri­van en mo­di­fi­ca­cio­nes, sus­pen­sio­nes tem­po­ra­les o la can­ce­la­ción de­fi­ni­ti­va de una por­ción de los sis­te­mas de­bi­do a pro­ble­mas como la baja ca­li­dad de los datos, la des­via­ción de mo­de­los y la pre­sen­cia de in­te­li­gen­cia ar­ti­fi­cial no au­to­ri­za­da.