Google realiza "mejoras técnicas" en su IA tras respuestas disparatadas

Luego de presentar algunos percances con su rediseñado motor de búsqueda, el cual arrojaba algunas respuestas erróneas creadas por inteligencia artificial, este viernes Google anunció que ha realizado "más de una docena de mejoras técnicas" en sus sistemas de IA. 

Te puede interesar: Estas son las nuevas funciones que llegan a WhatsApp en junio

La prestigiosa empresa tecnológica lanzó, a medidos de mayo, una nueva versión de su motor de búsqueda que frecuentemente ofrecía resúmenes generados por IA en la parte superior de los resultados de búsqueda. Sin embargo, poco tiempo después de su publicación, diferentes usuarios en redes sociales compartieron capturas de pantalla en donde mostraban los resultados más alocados con los que respondía la plataforma. 

Respecto a esto, Google defendió a gran medida la función de resúmenes generados por su IA, asegurando que suele ser muy exacta y que esta había sido probada exhaustivamente antes de ser lanzada al público. Este viernes, sin embargo, la directora de la división de búsquedas de Google, Liz Reid, admitió en un blog que "ciertamente aparecieron algunos resúmenes de IA extraños, imprecisos o poco útiles".

Aunque muchos de los ejemplos eran tontos, otros eran falsedades peligrosas o perjudiciales. Algunas personas también hicieron capturas de pantalla falsas que pretendían mostrar respuestas aún más ridículas que Google nunca generó, las cuales se compartieron ampliamente en las redes sociales.

La semana pasada, The Associated Press preguntó a Google qué setas silvestres se debían comer, y Google respondió con un extenso resumen generado por inteligencia artificial que, en su mayor parte, era técnicamente correcto, pero "faltaba mucha información, lo cual potencialmente podría llevar a enfermedades o incluso causar la muerte", afirma Mary Catherine Aime, profesora de micología y botánica de la Universidad de Purdue quien revisó la respuesta de Google.

Por ejemplo, la información sobre las setas conocidas como globos era "más o menos correcta", explica, pero el resumen de Google hacía hincapié en la búsqueda de las setas de carne blanca y sólida, sin advertir que esta forma y consistencia también se observa en otras setas que imitan a esta especie, pero son potencialmente venenosas.

Lee: Estos son los fenómenos astronómicos que presenciaremos en junio 2024

En otro caso ampliamente difundido, un investigador de IA preguntó a Google cuántos musulmanes han sido presidentes de Estados Unidos, y el buscador respondió con seguridad con una teoría conspirativa desmentida desde hace tiempo: "Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama".

La semana pasada, Google hizo una corrección inmediata para evitar que se repitiera el error de Obama, ya que infringe las políticas de contenidos de la empresa.

* * * Mantente al día con las noticias, únete a nuestro canal de WhatsApp * * *
XP

Síguenos en