Según la compañía, esta función puede añadir marcas de agua a textos generados por modelos lingüísticos, mejorando su capacidad para identificar y rastrear contenidos creados artificialmente.
Google ha desarrollado SynthID Text, una tecnología que utiliza marcas de agua “invisibles” para identificar textos generados por algoritmos de inteligencia artificial (IA). Lanzada en código abierto y de forma gratuita, esta herramienta está dirigida a desarrolladores interesados en crear sistemas de IA de manera ética y responsable.
Google DeepMind explicó que SynthID Text permite marcar textos creados por modelos de lenguaje, lo que facilita determinar si un contenido ha sido generado por IA. Las marcas de agua son imperceptibles al ojo humano y requieren un software especializado para ser detectadas, funcionando mejor en textos largos o con variaciones.
La eficacia de SynthID ha sido probada en el modelo Gemini, lo que motivó a Google a abrir el código para que otras empresas puedan integrar la herramienta en sus propios modelos, ayudando a identificar la procedencia de los textos y abordar posibles limitaciones técnicas.
El lanzamiento de SynthID Text se suma a los esfuerzos previos de Google para ayudar a las audiencias a diferenciar entre contenido generado por humanos y por IA. En años anteriores, la compañía ya había lanzado un sistema de marcas para imágenes y, posteriormente, amplió esas capacidades para videos.
SynthID Text opera asignando una puntuación de probabilidad a las palabras en textos con y sin marca de agua, diferenciando así si el contenido fue generado por IA. Google detalla que el algoritmo utiliza una clave criptográfica para asignar puntuaciones aleatorias a cada token, seleccionando el que tenga el valor más alto para su inclusión en el texto.
Aun así, la herramienta enfrenta desafíos al identificar textos cortos, reescritos o traducidos, además de preguntas fácticas. Este avance de Google es clave para evaluar la solidez de estas técnicas y su impacto en diferentes contextos, subrayando la creciente tensión entre el avance de la IA y los derechos de propiedad intelectual.
