ChatGPT marcará sus textos en la UE con una señal invisible

OpenAI, la empresa que hace ChatGPT, anunció el 5 de octubre que los textos que generen ChatGPT y Codex (su herramienta para programar) en la Unión Europea llevarán una marca de agua. Empezará a aplicarlo en las próximas semanas, en todos sus planes, a los usuarios que cumplan sus condiciones. La empresa no ha dado una fecha concreta para España.

Qué es una marca de agua en un texto. En un billete, la marca de agua es un dibujo que solo se ve a contraluz. En un texto no hay dibujo: la herramienta elige unas palabras en vez de otras siguiendo un patrón que solo conoce quien tiene la clave. Quien lee no nota nada. Un programa que tiene esa clave sí puede encontrar el patrón. La marca sigue ahí aunque copies y pegues el texto.

Por qué ahora. El Reglamento europeo de IA, la ley que regula estas herramientas en la UE, obliga desde el 2 de agosto a marcar el contenido generado con IA de forma que otros sistemas lo puedan reconocer. Fuera de la UE, por ahora, ChatGPT no marcará sus textos por defecto. Las empresas que usan los modelos de OpenAI dentro de sus propios programas pueden activar la marca en algunos modelos, pero viene apagada.

Qué dice la marca y qué no. Según OpenAI, la marca no identifica a la persona que usa ChatGPT ni enlaza el texto con una cuenta o una conversación. Solo indica si un texto, o parte de él, salió de sus sistemas. La empresa avisa de que no mide cuánto trabajo propio hay en el texto: cuánto lo has corregido o cuánto criterio has puesto. Tampoco dice si había que avisar de que se usó IA, ni si el contenido es correcto.

Hay otro límite: que un texto no tenga marca no demuestra que lo haya escrito una persona. Puede ser demasiado corto, estar traducido o muy corregido, o venir de la herramienta de otra empresa.

Quién puede comprobarla. Por ahora, casi nadie. OpenAI solo da su detector, caso por caso, a investigadores y organizaciones expertas que aprueba. Dice que no lo abre al público por el riesgo de errores: marcas que no detecta y textos que señala sin motivo.

Lo que no se sabe todavía. Las pruebas que ha publicado OpenAI se hicieron con textos en inglés. En esas pruebas, con textos de unas 300 palabras, cambiar una de cada diez palabras por un sinónimo bajó la detección de alrededor del 92 % al 66 %. Cambiar una de cada cuatro la bajó al 17 %. No hay datos para textos en español, y la empresa reconoce que la traducción también puede hacer que la detección falle.