La inteligencia artificial (IA) se está convirtiendo en una herramienta cada vez más común para consultar sobre salud y medicina, pero según varios estudios, puede ser engañada fácilmente con bulos médicos.

La IA no evalúa la veracidad de la información

Un estudio publicado en The Lancet encontró que la IA no evalúa principalmente la veracidad de la información, sino el formato en el que se le presenta. Esto significa que si se le plantea un bulo médico utilizando jerga clínica, hay una buena probabilidad de que la IA lo acepte como verdad.

Las claves para colar bulos a la IA

Para colar bulos a la IA, parece que el secreto está en el cómo se le presentan. Si se utiliza un lenguaje poco técnico y se presenta como un informe médico, la IA es más propensa a aceptar la información como válida.

Ejemplos absurdos

Entre los ejemplos de bulos que se lograron colar a la IA están el de que insertar un ajo por el recto es un método efectivo para mejorar el sistema inmunitario, y que la leche fría es buena para tratar un sangrado del esófago.

Consecuencias

Estos estudios ponen de relieve la necesidad de mejorar los mecanismos de seguridad en la IA para evitar que se colen bulos médicos. La IA no está lista para actuar como médico de cabecera, y utilizarla como tal puede ser peligroso.

La importancia de la conciencia crítica

Es fundamental ser conscientes de las limitaciones de la IA y no confiar ciegamente en sus respuestas. La IA es una herramienta útil, pero no es infalible, y es importante verificar la información antes de tomar decisiones importantes.

La IA debe ser supervisada

En resumen, la IA se deja engañar con bulos médicos y es importante mejorar los mecanismos de seguridad para evitar que se colen falsedades. La IA debe ser supervisada y utilizada con cuidado para evitar consecuencias negativas.