Google está eliminando las revisiones de IA para determinadas consultas médicas

Luego de una investigación de The Guardian que encontró que Google AI Overviews ofrecía información engañosa para ciertas consultas relacionadas con la salud, la compañía aparentemente eliminó AI Overviews para algunas de estas consultas.

Por ejemplo, The Guardian informó por primera vez que cuando a los usuarios se les preguntó “¿Cuál es el rango normal para los análisis de sangre del hígado?”, se les mostraron números que no tenían en cuenta factores como la nacionalidad, el género, el origen étnico o la edad, lo que potencialmente los llevó a pensar que sus resultados eran saludables cuando no lo eran.

Ahora The Guardian dice que las resúmenes de IA se han eliminado de los resultados de “¿Cuál es el rango normal para las pruebas de sangre del hígado” y “¿Cuál es el rango normal para las pruebas de función hepática?” Sin embargo, se descubrió que las variaciones de estas consultas, como “rango de referencia LFT” o “rango de referencia de prueba LFT”, aún pueden generar resúmenes generados por IA.

Cuando intenté estas consultas esta mañana, unas horas después de que The Guardian publicara su historia, ninguna de ellas resultó en que se mostraran resúmenes de IA, aunque Google todavía me dio la opción de hacer la misma consulta en modo AI. En varios casos, el primer resultado fue el artículo del Guardian sobre la distancia.

Un portavoz de Google dijo a The Guardian que la empresa “no comenta distancias individuales dentro de la búsqueda”, pero está trabajando para “realizar amplias mejoras”. El portavoz también dijo que un equipo interno de médicos había revisado las preguntas destacadas por The Guardian y descubrió que “en muchos casos la información no era inexacta y también estaba respaldada por sitios web de alta calidad”.

TechCrunch se ha puesto en contacto con Google para obtener más comentarios. El año pasado, la compañía anunció nuevas funciones diseñadas para mejorar la Búsqueda de Google para casos de uso de atención médica, incluidas descripciones generales mejoradas y modelos de inteligencia artificial centrados en la salud.

Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, dijo a The Guardian que la eliminación era una “excelente noticia”, pero añadió: “Nuestra mayor preocupación con todo esto es que selecciona un solo resultado de búsqueda y Google puede simplemente desactivar los resúmenes de IA para eso, pero no aborda el problema más grande de los resúmenes de IA para la salud”.