¿Quién vigila a la IA que vigila tu calle?

Un pro­fe­sor de la Uni­ver­si­dad de Gunma en Japón ha crea­do un mé­to­do de au­di­to­rías y san­cio­nes con el fin de pre­ve­nir el uso in­de­bi­do de la in­te­li­gen­cia ar­ti­fi­cial que ana­li­za las imá­ge­nes de cá­ma­ras en es­pa­cios pú­bli­cos to­tal­men­te mo­ni­to­rea­dos. Su pro­pues­ta in­clu­ye un en­car­ga­do de re­gis­tros in­de­pen­dien­te y re­vi­sio­nes sor­pre­sa para eva­luar los re­sul­ta­dos ge­ne­ra­dos por el sis­te­ma au­to­ma­ti­za­do.

El me­ca­nis­mo de con­trol se de­no­mi­na Re­gis­tro Ve­ri­fi­ca­ble de Re­sul­ta­dos de IA y fun­cio­na me­dian­te un cor­ta­fue­gos sa­lien­te ad­mi­nis­tra­do por un ter­ce­ro in­de­pen­dien­te que pro­ce­sa las eti­que­tas de las so­li­ci­tu­des de los ope­ra­do­res. Este re­gis­tra­dor exa­mi­na que las de­cla­ra­cio­nes cum­plan con las re­glas le­ga­les y guar­da las de­ci­sio­nes en un libro de con­ta­bi­li­dad re­sis­ten­te a ma­ni­pu­la­cio­nes, aun­que no posee cla­ves de ci­fra­do ni ac­ce­so al con­te­ni­do au­dio­vi­sual.

Para evi­tar que los ope­ra­do­res mien­tsen sobre el pro­pó­si­to real del uso de las imá­ge­nes, el sis­te­ma se apoya en au­di­to­rías sin pre­vio aviso que com­pa­ran lo de­cla­ra­do con lo emi­ti­do, apli­can­do san­cio­nes ad­mi­nis­tra­ti­vas, pe­na­les y pú­bli­cas en caso de in­frac­cio­nes. Ade­más, el crea­dor del pro­yec­to con­tem­pla la acep­ta­ción ciu­da­da­na mi­dien­do no solo las opi­nio­nes fa­vo­ra­bles, sino tam­bién la au­sen­cia de cam­bios en el com­por­ta­mien­to de las per­so­nas.

El plan se di­vi­de en eta­pas que van desde la bús­que­da de me­no­res des­apa­re­ci­dos hasta el uso de in­te­li­gen­cia ar­ti­fi­cial para de­tec­tar pa­tro­nes de con­duc­ta sos­pe­cho­sos, pre­vien­do prue­bas pi­lo­to y si­mu­la­cio­nes a pe­que­ña es­ca­la. El ar­tícu­lo ori­gi­nal no apor­ta más de­ta­lle sobre re­gu­la­do­res o mu­ni­ci­pios in­vo­lu­cra­dos, ya que el autor aún no ha dis­cu­ti­do la pro­pues­ta con ellos.