Preocupación por la nueva herramienta de resúmenes de IA de Google tras ofrecer respuestas engañosas
Preocupación por la nueva herramienta de resúmenes de IA de Google tras ofrecer respuestas engañosas
Este mes, Google ha lanzado en Estados Unidos una nueva función que incluye resúmenes generados por inteligencia artificial (IA) en la parte superior de su motor de búsqueda. Aunque acaba de ser presentada, ya han surgido críticas por errores en la información de estos «resúmenes de IA». Por ejemplo, en respuesta a una consulta de un periodista de la agencia AP, Google afirmó: «Sí, los astronautas se han encontrado con gatos en la Luna, han jugado con ellos y les han proporcionado cuidados».
En resumen, añadió: «Neil Armstrong dijo: ‘Un pequeño paso para el hombre’ porque era el paso de un gato. Buzz Aldrin también desplegó gatos en la misión Apolo 11». Evidentemente, nada de esto es cierto, pero errores similares se han difundido en redes sociales desde la actualización de la página de búsqueda de Google. Un usuario compartió un resumen de IA que sugería «comer una roca al día», mientras otro afirmaba que recomendaba «añadir pegamento a la pizza».
Melanie Mitchell, investigadora de inteligencia artificial del Instituto Santa Fe de Nuevo México, preguntó a Google «¿cuántos musulmanes han sido presidentes de Estados Unidos?», y la herramienta respondió con una teoría conspirativa desmentida hace tiempo: «Estados Unidos ha tenido un presidente musulmán, Barack Huseín Obama». Mitchell también señaló que el resumen respaldaba esta afirmación citando un capítulo de un libro académico escrito por historiadores, sin embargo, el capítulo solo mencionaba la teoría falsa, sin afirmarla.
En un comunicado, Google afirmó que está tomando «medidas rápidas» para corregir errores, como la falsedad sobre Obama, que violan sus políticas de contenido. A pesar de esto, Google sostiene que, en la mayoría de los casos, el sistema funciona correctamente gracias a las exhaustivas pruebas realizadas antes del lanzamiento. «La gran mayoría de los resúmenes de IA proporcionan información de alta calidad, con enlaces para profundizar en la web», declaró Google. Los competidores de Google también están atentos a la reacción, ya que la empresa enfrenta presión para competir con otras en la carrera por desplegar la IA.
