Google Desactiva su IA para Consultas Médicas tras Descubrir Información Errónea

La función de AI Overviews de Google, diseñada para ofrecer resúmenes generados por inteligencia artificial, ha sido desactivada para ciertas consultas médicas después de que se descubrió que proporcionaba información engañosa y potencialmente peligrosa.

La IA de Google y sus Errores Médicos

Investigaciones realizadas por The Guardian revelaron que la IA de Google ofrecía consejos médicos inexactos, incluyendo recomendaciones para pacientes con cáncer de páncreas que podrían aumentar el riesgo de muerte si se seguían. Además, se encontraron errores en resultados relacionados con pruebas de función hepática y cáncer en mujeres, lo que podría llevar a personas con estas enfermedades a creer que están sanas o a descartar síntomas reales.

Desactivación Parcial de la IA

Aunque Google ha comenzado a desactivar silenciosamente los resultados para algunas consultas médicas, The Guardian descubrió que variaciones en la forma de hacer la pregunta pueden hacer que la IA vuelva a ofrecer resultados potencialmente engañosos. Google asegura que invierte constantemente en la calidad de sus descripciones generales de IA, especialmente en temas de salud, pero expertos advierten que es crucial evitar el uso de esta herramienta para consultas médicas y buscar ayuda de profesionales de la salud.

La desactivación parcial de la IA para consultas médicas es un paso hacia la protección de los usuarios, pero subraya la necesidad de precaución al utilizar herramientas de inteligencia artificial para asesoramiento médico.

Explora más noticias en nuestra sección: Tecnología