Texas sues OpenAI for deceiving consumers about safety, seeks sweeping reforms and fines

El es­ta­do de Texas ha pre­sen­ta­do una de­man­da con­tra la em­pre­sa Ope­nAI y su má­xi­mo res­pon­sa­ble, ale­gan­do que pro­mo­cio­nan su he­rra­mien­ta ChatGPT como un pro­duc­to se­gu­ro a pesar de que su­pues­tas pro­tec­cio­nes no están lo­gran­do pro­te­ger ade­cua­da­men­te a los con­su­mi­do­res, in­clui­dos los me­no­res de edad. Esta ac­ción legal, fun­da­men­ta­da en nor­ma­ti­vas es­ta­ta­les sobre prác­ti­cas co­mer­cia­les en­ga­ño­sas, busca de ma­ne­ra inusual que el di­rec­tor eje­cu­ti­vo asuma res­pon­sa­bi­li­dad per­so­nal por el su­pues­to en­ga­ño.

La de­man­da exige la im­po­si­ción de san­cio­nes ci­vi­les y me­di­das cau­te­la­res exhaus­ti­vas, las cua­les in­clu­yen prohi­bir el ac­ce­so de me­no­res a la pla­ta­for­ma, re­que­rir la apro­ba­ción de ter­ce­ros me­dian­te un ex­per­to de­sig­na­do por un tri­bu­nal para los nue­vos mo­de­los, y evi­tar que el chat­bot pro­por­cio­ne a los usua­rios orien­ta­cio­nes sobre sui­ci­dio, tras­tor­nos ali­men­ta­rios o la rea­li­za­ción de actos vio­len­tos. Asi­mis­mo, se acusa a la com­pa­ñía de no ve­ri­fi­car las iden­ti­da­des con­for­me a las leyes es­ta­ta­les y se vin­cu­la el rá­pi­do in­cre­men­to de su valor de mer­ca­do con el uso de datos y la ex­po­si­ción de la se­gu­ri­dad de los usua­rios.

Por su parte, un por­ta­voz de la em­pre­sa de­cla­ró que co­la­bo­ran de ma­ne­ra cer­ca­na con es­pe­cia­lis­tas para op­ti­mi­zar con­ti­nua­men­te ChatGPT, re­du­cir ries­gos y es­ta­ble­cer sal­va­guar­das adi­cio­na­les, des­ta­can­do ade­más la dis­po­si­ción para tra­ba­jar junto con Texas y otras re­gio­nes en el im­pul­so de po­lí­ti­cas prag­má­ti­cas apli­ca­bles a todo el sec­tor de la in­te­li­gen­cia ar­ti­fi­cial. La pre­sen­ta­ción ju­di­cial tam­bién men­cio­na de­cla­ra­cio­nes pre­vias del di­rec­tor eje­cu­ti­vo res­pec­to al im­pac­to de esta tec­no­lo­gía e in­clu­ye acu­sa­cio­nes sobre cómo la in­tro­duc­ción del chat­bot ha­bría fa­ci­li­ta­do si­tua­cio­nes gra­ves como ti­ro­teos ma­si­vos, es­tí­mu­lo al sui­ci­dio en per­so­nas vul­ne­ra­bles y la adic­ción en me­no­res sin su­per­vi­sión de los pa­dres.