OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU

Ope­nAI se en­cuen­tra pre­pa­ran­do la im­ple­men­ta­ción de mar­cas de agua in­vi­si­bles en los con­te­ni­dos tex­tua­les crea­dos por ChatGPT y Codex den­tro del te­rri­to­rio de la Unión Eu­ro­pea. Estas mar­cas no se po­drán apre­ciar a sim­ple vista al leer o co­piar el con­te­ni­do, ya que la tec­no­lo­gía lla­ma­da text­Grain mo­di­fi­ca de forma leve la se­lec­ción de pa­la­bras del mo­de­lo para ge­ne­rar un pa­trón es­ta­dís­ti­co que per­mi­ta su iden­ti­fi­ca­ción pos­te­rior. Esta fun­cio­na­li­dad se des­ple­ga­rá de ma­ne­ra es­pe­cí­fi­ca para el con­te­ni­do apto en dicha re­gión du­ran­te las pró­xi­mas se­ma­nas, sin es­ta­ble­cer­se to­da­vía como una op­ción pre­de­ter­mi­na­da a nivel glo­bal, aun­que los de­sa­rro­lla­do­res de API en todo el mundo ya pue­den ac­ti­var­la de forma op­cio­nal.

La com­pa­ñía ha se­ña­la­do que esta he­rra­mien­ta de mar­ca­do de agua pre­sen­ta li­mi­ta­cio­nes, dado que las mo­di­fi­ca­cio­nes co­mu­nes en el texto pue­den dis­mi­nuir no­ta­ble­men­te la ca­pa­ci­dad de re­co­no­ci­mien­to. Por ejem­plo, al eva­luar frag­men­tos ex­ten­sos, el re­em­pla­zo de una parte de las pa­la­bras por si­nó­ni­mos re­du­ce drás­ti­ca­men­te la efec­ti­vi­dad de la de­tec­ción, y un re­sul­ta­do si­mi­lar ocu­rre en áreas te­má­ti­cas como las ma­te­má­ti­cas, donde el mo­de­lo cuen­ta con menor mar­gen para al­te­rar su vo­ca­bu­la­rio. De­bi­do a esto, la em­pre­sa ad­vier­te que la falta de de­tec­ción no con­fir­ma que un texto haya sido es­cri­to por una per­so­na, ya que los con­te­ni­dos pue­den ser muy bre­ves, tra­du­ci­dos o mo­di­fi­ca­dos, y la marca tam­po­co per­mi­te iden­ti­fi­car la cuen­ta, el usua­rio, la ins­truc­ción ori­gi­nal ni el nivel de in­ter­ven­ción hu­ma­na.

Pa­ra­le­la­men­te, la or­ga­ni­za­ción está re­ci­bien­do so­li­ci­tu­des para el uso de su de­tec­tor de mar­cas de agua, aun­que el ac­ce­so ini­cial es­ta­rá res­trin­gi­do ex­clu­si­va­men­te a in­ves­ti­ga­do­res au­to­ri­za­dos y or­ga­ni­za­cio­nes ex­per­tas. Por otra parte, la firma ha in­di­ca­do que el uso de este sis­te­ma no al­te­ra de forma sig­ni­fi­ca­ti­va la ca­li­dad del mo­de­lo GPT-6 Astra, man­te­nien­do re­sul­ta­dos com­pa­ra­bles en las prue­bas de ren­di­mien­to cuan­do la fun­ción está ac­ti­va.