Por qué la confianza en la IA no es lo mismo que la validación

El uso de in­te­li­gen­cia ar­ti­fi­cial en la in­for­má­ti­ca fo­ren­se y la res­pues­ta a in­ci­den­tes se ha ex­ten­di­do, a me­nu­do su­peran­do la ca­pa­ci­dad de los pro­fe­sio­na­les para ve­ri­fi­car sus re­sul­ta­dos. La falta de es­tán­da­res de va­li­da­ción y go­ber­nan­za puede pro­vo­car que in­for­ma­ción no ve­ri­fi­ca­da ter­mi­ne en in­for­mes ofi­cia­les o en un tri­bu­nal, lo que mo­ti­vó la crea­ción de nue­vos mar­cos de tra­ba­jo orien­ta­dos a man­te­ner al ser hu­mano como la má­xi­ma au­to­ri­dad en cada etapa.

Va­li­dar un re­sul­ta­do ge­ne­ra­do por in­te­li­gen­cia ar­ti­fi­cial exige re­vi­sar el ar­chi­vo de ori­gen y com­pren­der las ra­zo­nes de­trás de la res­pues­ta, evi­tan­do tra­tar a estas he­rra­mien­tas como fuen­tes in­fa­li­bles de ver­dad. Asi­mis­mo, es fun­da­men­tal do­cu­men­tar con pre­ci­sión las ver­sio­nes de los mo­de­los uti­li­za­dos y los pro­gra­mas in­te­gra­dos en las he­rra­mien­tas fo­ren­ses, dado que las ca­pa­ci­da­des tec­no­ló­gi­cas evo­lu­cio­nan con ra­pi­dez y esto puede ser uti­li­za­do por la con­tra­par­te legal du­ran­te los jui­cios.

Las dis­ci­pli­nas de in­for­má­ti­ca fo­ren­se y res­pues­ta a in­ci­den­tes po­seen di­fe­ren­tes to­le­ran­cias al ries­go y ope­ran bajo dis­tin­tas pre­sio­nes, por lo que no deben re­gir­se por una misma nor­ma­ti­va. Mien­tras la res­pues­ta a in­ci­den­tes prio­ri­za la ve­lo­ci­dad, la in­for­má­ti­ca fo­ren­se exige la va­li­da­ción exhaus­ti­va de cada ar­chi­vo. Por úl­ti­mo, la res­pon­sa­bi­li­dad recae en el pro­fe­sio­nal en­car­ga­do, quien no debe per­mi­tir que la in­te­li­gen­cia ar­ti­fi­cial eje­cu­te ac­cio­nes irre­ver­si­bles, ase­gu­ran­do que la tec­no­lo­gía fun­cio­ne como un apoyo bajo su­per­vi­sión hu­ma­na cons­tan­te.