En resumen
OpenAI comenzó a distribuir en la Unión Europea una marca de agua invisible e identificable por máquinas en textos producidos por ChatGPT y Codex. La medida cumple las reglas de transparencia de la Ley de IA, pero no hace infalible la identificación: las modificaciones, los textos cortos, las matemáticas y las traducciones reducen su eficacia.
OpenAI comenzó a distribuir en la Unión Europea una marca de agua invisible y legible por máquinas para textos generados por ChatGPT y Codex. La función, llamada textGrain, se habilitará gradualmente para usuarios elegibles de todos los planes, según la información reunida en el anuncio de la empresa y en los reportes que lo confirmaron.
El cambio está relacionado con las reglas de transparencia de la Ley de IA europea, que desde el 2 de agosto exigen que los contenidos producidos por inteligencia artificial puedan ser identificados por otros sistemas. Sin embargo, OpenAI no afirmó que el mecanismo vaya a activarse de forma predeterminada a nivel global. En su lanzamiento, la aplicación se concentra en la Unión Europea.
En la práctica, la marca de agua no aparece como sello, aviso ni símbolo en pantalla. El método modifica sutilmente las elecciones de palabras realizadas por el modelo y crea una regularidad estadística que un detector puede buscar. Como el patrón está incorporado en el propio texto, acompaña al contenido cuando este se copia y pega.
OpenAI afirma que textGrain obtuvo un rendimiento igual o superior al de enfoques comparables, incluido SynthID para texto, asociado con Google DeepMind y también mencionado en iniciativas de Anthropic. Esta comparación es una declaración de la empresa; el material proporcionado no presenta una validación independiente completa de los resultados.
La compañía también afirma que no observó cambios relevantes en el rendimiento de los modelos cuando la marca de agua está activada. La información estuvo acompañada por resultados de pruebas de referencia que, según OpenAI, indican un rendimiento similar entre textos con y sin marcado. Aun así, los datos disponibles no permiten concluir que el efecto sea idéntico en todos los idiomas, tareas o formatos.
Cómo funciona el mecanismo y dónde falla
El informe técnico publicado por OpenAI describe un sistema que utiliza una clave secreta para organizar las posibles palabras siguientes durante la generación. Las elecciones repetidas orientadas por este proceso forman un patrón que el detector puede reconocer mediante el texto analizado y la clave correspondiente. Para el lector, el resultado sigue pareciendo un texto común.
La propia documentación citada en los reportes deja claro que la técnica no ofrece una garantía absoluta. En una prueba, la sustitución del 10 % de las palabras por sinónimos hizo que la tasa de detección cayera de aproximadamente el 92 % al 66 %. El resultado indica que la marca puede sobrevivir a una copia simple, pero se vuelve menos confiable después de una edición relativamente limitada.
También hay casos especialmente difíciles. Se señaló que los pasajes cortos, las respuestas matemáticas y los textos traducidos son más complicados de identificar. Esto limita el uso de la herramienta como prueba aislada de autoría mediante inteligencia artificial, sobre todo cuando el contenido pasa por una revisión humana, traducción o adaptación editorial.
TechCrunch informó además que los desarrolladores que utilizan la API de OpenAI en cualquier parte del mundo pueden activar la función, a partir del anuncio, en modelos seleccionados. En esta modalidad, la marca de agua permanece desactivada de forma predeterminada. El material no especifica qué modelos fueron incluidos ni presenta un calendario de expansión a otros productos o regiones.
OpenAI afirma que la marca de agua no identifica al usuario. Esto diferencia el mecanismo de una firma de identidad: busca indicar un posible origen del texto, no asociarlo directamente con una cuenta o persona. Sin embargo, el dossier no detalla las políticas de conservación, el acceso a las claves ni los procedimientos para impugnar una detección.
Qué cambia para los usuarios y las plataformas
Para los usuarios europeos de ChatGPT y Codex, el principal cambio es que los textos producidos por el servicio podrán llevar una característica técnica invisible desde el momento de su generación. Las plataformas, escuelas, empresas y servicios de moderación podrían utilizar detectores para complementar las evaluaciones de origen, pero la fragilidad frente a las ediciones impide tratar el resultado como un veredicto automático.
La medida también crea una diferencia regional en el funcionamiento de los productos. El mismo servicio puede generar texto marcado para una persona en la Unión Europea y texto sin marcado predeterminado para usuarios de otras regiones. Esta separación refleja el alcance regulatorio de la Ley de IA, pero deja abierta la cuestión de cómo gestionarán las empresas globales políticas diferentes para flujos de trabajo internacionales.
El caso de OpenAI forma parte de una tendencia regulatoria y comercial más amplia. Anthropic anunció una iniciativa similar en agosto, según el material proporcionado, también asociada con las exigencias europeas. La convergencia entre empresas puede facilitar la adopción de detectores, pero no resuelve el problema de compatibilidad entre métodos, claves y patrones de distintos proveedores.
El próximo punto que habrá que seguir es la implementación real durante las semanas siguientes: qué cuentas recibirán la función, cómo estarán disponibles los detectores y cuál será el comportamiento del sistema en diferentes idiomas. También será importante observar evaluaciones independientes sobre falsos positivos, falsos negativos y resistencia a reescrituras más extensas.
Por ahora, el hecho confirmado es más limitado que la idea de una identificación universal de textos de IA. OpenAI está lanzando una marca de agua textual en la Unión Europea y ofrece una opción para desarrolladores de la API, pero las propias pruebas citadas muestran que la señal puede debilitarse. La eficacia práctica dependerá de la calidad de los detectores, del acceso a las claves y de la forma en que se edite el texto después de su generación.
Nuestro prisma
La decisión convierte una exigencia regulatoria en una característica técnica del texto, pero no elimina la incertidumbre sobre su origen. La marca de agua puede ayudar a las plataformas a crear señales adicionales de procedencia, aunque no debería utilizarse por sí sola para sancionar o validar a los usuarios. La caída de la detección después de sustituciones simples refuerza que la función es un indicador probabilístico, no una prueba definitiva. La principal prueba ahora será la implementación independiente, especialmente en idiomas y contextos fuera de las pruebas de referencia de la empresa.
Fuentes: The Verge (IA) · TechCrunch (IA)
Preguntas frecuentes
¿Qué es la marca de agua textGrain?
Es un patrón invisible incorporado al texto mediante pequeñas elecciones de palabras, que puede ser identificado por un detector con la clave correspondiente.
¿Quién recibirá la novedad?
La distribución comienza para usuarios elegibles de ChatGPT y Codex en la Unión Europea, en todos los planes, durante las semanas posteriores al anuncio.
¿Se puede eliminar la marca de agua?
Puede resultar más difícil de detectar después de las ediciones. En una prueba citada por OpenAI, cambiar el 10 % de las palabras por sinónimos redujo la detección de aproximadamente el 92 % al 66 %.
Recibe Radar de IA todos los días
Las noticias de inteligencia artificial que importan — con nuestro prisma y siempre con las fuentes. Gratis.
