La forma intuitiva de marcar un texto generado por una máquina sería meterle algo dentro: un carácter invisible, un dato en el fichero, una firma al final. Todo eso se quita copiando el texto y pegándolo en un bloc de notas.
El sistema que Google lleva funcionando desde 2024 no hace nada de eso, y por eso es interesante.
Dónde está la marca
Se llama SynthID-Text y lo describieron Sumanth Dathathri y su equipo de Google DeepMind en Nature, en octubre de 2024.
Un modelo de lenguaje escribe eligiendo la siguiente palabra entre varias posibles, cada una con su probabilidad. Muchas veces hay empate práctico: después de «el día estaba», tanto «frío y nublado» como «frío y gris» valen igual y el modelo elegiría una al azar.
Ahí es donde entra la marca. En vez de elegir al azar, una clave secreta combinada con las palabras anteriores decide cuál va. El mecanismo se llama muestreo por torneo.
Con el texto delante y esa clave, un detector puede calcular si las elecciones siguen el patrón o son las que haría el azar. Con unas pocas palabras no se puede saber; con miles, la probabilidad se vuelve concluyente.
La consecuencia es la que da título a esto: no hay nada escondido que buscar. El texto es la marca. Copiarlo, pegarlo y limpiarlo de formato no cambia nada, porque lo que lleva la firma son las palabras que se eligieron.
Dónde está funcionando
Google dice que el sistema está dentro de Gemini y Gemini Advanced y lo describe como el primer despliegue a gran escala de una marca de agua en texto generado. En su evaluación, marcar el texto no empeoró su calidad ni su velocidad.
Además liberaron el código, así que cualquiera puede montarlo sobre su propio modelo.
Lo que no aguanta
El propio trabajo lo reconoce y conviene decirlo con claridad, porque es donde se decide si esto sirve para algo en la práctica: la marca se degrada cuando el texto se reescribe. Si otra máquina lo parafrasea entero, cambiando sinónimos y reordenando frases, el patrón se diluye.
Y hay un límite anterior a ese: solo funciona con los modelos que la llevan puesta. Un modelo que no marca nada produce texto sin firma, y no hay detector que valga.
Por qué se están molestando en esto
El reglamento europeo de inteligencia artificial obliga a que el contenido generado se pueda identificar como tal. Marcar el texto en origen es la forma que tienen las empresas de cumplir sin depender de detectores que adivinen por el estilo, que es lo que se venía usando y que falla, además, en las dos direcciones: da por máquina lo escrito por una persona y al revés.
Con lo que sabemos hoy, esto no resuelve el problema de saber si un texto cualquiera de internet lo escribió alguien. Resuelve otro más pequeño y más útil: si un texto salió de un modelo concreto, el que tiene la clave puede demostrarlo.
Fuente: Dathathri, S. y otros, Scalable watermarking for identifying large language model outputs, Nature, octubre de 2024.
