Google lanza nueva herramienta para identificar textos generados por inteligencia artificial
Con este sistema, Google planea ofrecer mayor seguridad y regular el uso de inteligencia artificial
A poco más de un año de su anuncio en agosto de 2023, el gigante de la tecnología, Google, ha lanzado una versión de código abierto de SynthID, su herramienta de inteligencia artificial (AI) que permitirá a desarrolladores, empresas y a cualquiera que esté interesado, identificar y colocar marcas de agua en los textos generados con modelos lingüísticos (LLM por sus siglas en inglés).
Fue a través de una publicación en la cuenta de X de Google DeepMind, la división encargada del estudio y desarrollo de inteligencia artificial, que la compañía anunció el lanzamiento de esta herramienta que si bien no es el primer intento de las compañías de combatir la desinformación y la adjudicación de material, sí podemos decir que es el primer intento a gran escala de años recientes.
Con el creciente uso de la inteligencia artificial y las cada vez más recurrentes opciones al alcance de nuestras manos, resulta delicado encontrar medidas que contrarresten el uso indebido de estos modelos de lenguaje, así como ayudar a desarrolladores a perfeccionar los ya existentes. Sin embargo, aunque en imágenes, videos o audios es regularmente sencillo añadir marcas de agua, en los textos cualquier modificación puede resultar perjudicial para la comprensión del mismo.
LEE: Conoce las nuevas funciones de las listas de reproducción en Spotify
También es importante señalar que si bien SynthID permitirá marcar los textos creados con LLM, estas no serán visibles a simple vista y solo podremos observarlas a través de un software de identificación especializado.
Antes del lanzamiento del código abierto esta mañana, Google ha realizado pruebas con su modelo de lenguaje, Google Gemini, en las cuales se han arrojado resultados positivos, destacando la precisión de SynthID cuando se trata de textos de larga extensión. Sin embargo, las pruebas no han dado a conocer el nivel de resistencia que tienen las marcas de agua ante cualquier intento de eliminación, pero se espera que en próximos días tengamos más detalles de los usos de esta herramienta.
JM