¿Te duele la cabeza o es sinusitis? ¿Cómo se ve una fractura por estrés? ¿Debería preocuparse por el dolor en el pecho? Si busca estas preguntas ahora en Google, las respuestas pueden estar escritas por inteligencia artificial.

En mayo, Google lanzó una nueva función llamada AI Overviews que utiliza IA generativa, un tipo de tecnología de aprendizaje automático que se entrena con información de Internet y produce respuestas conversacionales a algunas preguntas de búsqueda en cuestión de segundos.

En las semanas transcurridas desde el lanzamiento de la herramienta, los usuarios han encontrado una amplia gama de imprecisiones y respuestas extrañas sobre una variedad de temas. Más tarde, la compañía pareció revertir la función para algunas búsquedas mientras intentaba reducir estos errores.

Cuando se trata de respuestas de la IA a preguntas sobre salud, los expertos dijeron que hay mucho en juego. Esta tecnología puede guiar a las personas hacia hábitos saludables o la atención médica necesaria, pero también tiene el potencial de proporcionar información inexacta. La inteligencia artificial a veces puede inventar hechos. Si sus respuestas están moldeadas por sitios web que no tienen base científica, pueden brindar consejos que entren en conflicto con los consejos médicos o representen un riesgo para la salud de una persona.

Ya se ha demostrado que el sistema produce respuestas deficientes que parecen estar basadas en fuentes defectuosas. Cuando se les preguntó «¿Cuántas piedras debo comer», por ejemplo, AI Overviews pidió a algunos usuarios que comieran al menos una piedra al día para obtener vitaminas y minerales. (Consejo copiado de Cebollassitio satírico.)

«No se puede confiar en todo lo que se lee», dijo el Dr. Karandeep Singh, director de IA de salud de UC San Diego Health. En salud, dijo, su fuente de información es fundamental.

Las búsquedas de salud tienen “barandillas de seguridad adicionales”, dijo Hema Buddaraju, directora de gestión de productos de Google que está ayudando a liderar el trabajo en la descripción general de la IA, pero se negó a describirlas en detalle. Las búsquedas que se consideran serias o explícitas, o que indican que alguien se encuentra en una situación vulnerable, como autolesión, no activan resúmenes de IA, dijo.

Google se negó a proporcionar una lista detallada de sitios web que respaldan la información en AI Overviews, pero dijo que la herramienta funciona en conjunto con… Gráfico de conocimiento de Googleun sistema de información existente que extrajo miles de millones de datos de cientos de fuentes.

Las respuestas de nuevas investigaciones identifican algunas fuentes; Para cuestiones de salud, suelen ser sitios web como Mayo Clinic, WebMD, la Organización Mundial de la Salud y el centro de investigación científica PubMed. Pero no es una lista exhaustiva: la herramienta también puede extraer información de Wikipedia, publicaciones de blogs, Reddit y sitios de comercio electrónico. No les dice a los usuarios qué hechos provienen de qué fuentes.

Utilizando un resultado de búsqueda estándar, muchos usuarios podrán diferenciar inmediatamente entre un sitio web médico de buena reputación y una empresa de dulces. Pero un solo bloque de texto que combina información de múltiples fuentes puede causar confusión.

«Eso es si la gente está mirando la fuente», dijo la Dra. Seema Yasmin, directora de la Iniciativa de Comunicaciones de Salud de la Universidad de Stanford. «No sé si la gente está mirando o si realmente les hemos educado lo suficiente». Para mirar”, dijo. Su propia investigación Debido a la desinformación, se volvió pesimista sobre el interés del usuario promedio en mirar más allá de la respuesta rápida.

En cuanto a la exactitud de la respuesta sobre el chocolate, el Dr. Dariush Mozaffarian, cardiólogo y profesor de medicina en la Universidad de Tufts, dijo que contiene algunos datos que en su mayoría son correctos y que resume la investigación sobre los beneficios del chocolate para la salud. Pero dijo que no distingue entre evidencia sólida proporcionada por ensayos aleatorios y evidencia más débil de estudios observacionales, ni ofrece ninguna advertencia sobre la evidencia.

El Dr. Mozaffarian dijo: Es cierto que el chocolate contiene antioxidantes. ¿Pero la afirmación de que el consumo de chocolate puede ayudar a prevenir la pérdida de memoria? Esto no se ha demostrado claramente, afirmó, y «necesita mucha advertencia». Enumerar estas afirmaciones una al lado de la otra da la impresión de que algunas están mejor fundamentadas de lo que realmente están.

Las respuestas también pueden cambiar a medida que la propia IA evoluciona, incluso si la ciencia detrás de una respuesta en particular no cambia.

Un portavoz de Google dijo en un comunicado que la compañía ha trabajado para mostrar descargos de responsabilidad en las respuestas cuando sea necesario, incluidas notas de que la información no debe tratarse como consejo médico.

No está claro cómo exactamente AI Overviews evalúa la solidez de la evidencia, o si tiene en cuenta hallazgos de investigaciones contradictorias, como aquellos relacionados con si el café es bueno para la salud. «La ciencia no es un conjunto de hechos fijos», dijo la Dra. Yasmin. Ella y otros expertos también se preguntaron si la herramienta se basaría en antiguos hallazgos científicos que desde entonces han sido refutados, o si no captaría la comprensión más reciente de un tema.

«Poder tomar una decisión crítica (diferenciar entre la calidad de las fuentes) es lo que los humanos hacemos todo el tiempo, y es lo que hacen los médicos», dijo la Dra. Danielle Peterman, médica y científica de inteligencia artificial en el Instituto del Cáncer Dana-Farber. y Brigham. Y hospital de mujeres. “Analizan la evidencia”.

Si queremos que herramientas como AI Overviews desempeñen este papel, dijo, “necesitamos comprender mejor cómo navegar a través de diferentes fuentes y cómo aplicar una lente crítica para llegar a un resumen”.

Estas incógnitas son preocupantes, dijeron los expertos, ya que el nuevo sistema eleva la capacidad de respuesta general de la IA en comparación con enlaces individuales a sitios web médicos de buena reputación, como los de la Clínica Mayo y la Clínica Cleveland. Históricamente, estos sitios han llegado a los primeros puestos de los resultados de muchas búsquedas de salud.

Un portavoz de Google dijo que AI Overviews coincidirá o resumirá la información que aparece en los principales resultados de búsqueda, pero no está diseñada para reemplazar ese contenido. En cambio, dijo el portavoz, están diseñados para ayudar a las personas a navegar por la información disponible.

La Clínica Mayo se negó a comentar sobre las nuevas respuestas. Un representante de la Clínica Cleveland dijo que las personas que buscan información de salud deben «buscar directamente en fuentes conocidas y confiables» y comunicarse con su proveedor de atención médica si experimentan algún síntoma.

Un representante de Scripps Health, un sistema de atención médica con sede en California citado en algunos resúmenes de AI Overview, dijo en un comunicado que «las citas en las respuestas generadas por IA de Google pueden ser beneficiosas porque hacen de Scripps Health una fuente confiable de información de salud». .

Sin embargo, el representante añadió: «Nos preocupa que no podamos responder por el contenido producido por IA de la misma manera que podemos responder por nuestro propio contenido, que es examinado por nuestros profesionales médicos».

Los expertos dijeron que en el caso de las preguntas médicas, lo importante no es sólo la precisión de la respuesta, sino también cómo se presenta a los usuarios. Tome la pregunta «¿Estoy sufriendo un ataque al corazón?» La respuesta de la IA tuvo un resumen útil de los síntomas, dijo el Dr. Richard Gumina, director de medicina cardiovascular del Centro Médico Wexner de la Universidad Estatal de Ohio.

Pero añadió que tuvo que leer una larga lista de síntomas antes de que el mensaje de texto le aconsejara llamar al 911. El Dr. Gumina también buscó «¿Estoy sufriendo un derrame cerebral?» Para ver si la herramienta podría producir una respuesta más urgente, lo cual hizo, pidió a los usuarios de la primera línea que llamaran al 911. Dijo que recomendaría inmediatamente a los pacientes con síntomas de ataque cardíaco o accidente cerebrovascular que buscaran ayuda.

Los expertos alentaron a las personas que buscan información de salud a tratar las nuevas respuestas con precaución. Esencialmente, dijeron, los usuarios deben tener en cuenta los detalles más finos en algunas respuestas generales de la IA: «Esto es sólo para fines informativos. Para asesoramiento o diagnóstico médico, consulte a un profesional. La IA generativa es experimental».

Danny Bloom Contribuyó a los informes.