OpenAI implementará marcas de agua invisibles en sus modelos para cumplir con la normativa europea

OpenAI ha anunciado la intención de incorporar una tecnología de marca de agua en los textos generados por sus sistemas ChatGPT y Codex, medida que afectará específicamente a los usuarios ubicados en la Unión Europea. Esta iniciativa responde a los requisitos establecidos por la Ley de Inteligencia Artificial de la Unión Europea, que obliga a las empresas del sector a identificar de manera verificable el contenido creado mediante herramientas de inteligencia artificial.

Según informó Techsauce, el mecanismo empleado no consiste en añadir un logotipo visible al final de la respuesta, sino en una técnica denominada textGrain. Este sistema modifica de forma sutil y casi imperceptible la selección de palabras que realiza el modelo, creando un patrón específico que los lectores humanos no pueden detectar a simple vista. Sin embargo, herramientas especializadas son capaces de identificar esta firma digital, la cual permanece adherida al texto incluso si este es copiado y pegado en otras plataformas o documentos.

La efectividad de esta tecnología presenta limitaciones técnicas significativas. La tasa de detección no alcanza el cien por ciento, ya que si se modifica aproximadamente el diez por ciento de las palabras del texto original, la capacidad de identificación disminuye de un noventa y dos por ciento a un sesenta y seis por ciento. Además, la detección resulta más compleja en textos de extensión corta, en respuestas a problemas matemáticos o en contenidos que han sido traducidos a otros idiomas.

Debido a estas restricciones técnicas, la empresa ha decidido no poner a disposición del público general las herramientas de detección de estas marcas de agua. En su lugar, el acceso a estos sistemas de verificación se limitará exclusivamente a investigadores y organizaciones que hayan obtenido la aprobación correspondiente para su uso.

El contexto de esta decisión se enmarca en un movimiento sectorial más amplio. Hace aproximadamente dos meses, la empresa Anthropic anunció la implementación de marcas de agua obligatorias a nivel global, una medida que generó cierta insatisfacción entre algunos usuarios que consideran que la inteligencia artificial debe funcionar únicamente como una herramienta de apoyo al pensamiento. Aunque OpenAI había desarrollado esta tecnología hace bastante tiempo, su despliegue se había retrasado por el temor a que los usuarios migraran hacia competidores que no aplicaban este tipo de restricciones.

Actualmente, los principales actores del sector, incluyendo Anthropic, Google, Meta, Microsoft y OpenAI, han alcanzado un acuerdo para cumplir de manera conjunta con la legislación europea de gestión de la inteligencia artificial, lo que consolida la adopción de estas medidas de transparencia en la industria.