Qué considerar antes de pedirle consejos de salud a un chatbot con IA

El uso de chatbots para obtener asesoramiento médico podría provocar alucinaciones e incluso exponerlo a riesgos de seguridad y privacidad. Esto es lo que está en juego y cómo mantenerse a salvo.

27 de mayo de 2026
•
,
Leer durante 5 minutos

Para bien o para mal, los chatbots están cambiando la forma en que pensamos, aprendemos y percibimos el mundo que nos rodea. Interrupciones de este tipo ocurren en muchas áreas de la vida, pero quizás una de las más sensibles y a menudo preocupantes sea el uso cada vez mayor de la IA generativa (GenAI) en la atención sanitaria. Además de una serie de chatbots de IA disponibles gratuitamente, las grandes empresas de tecnología están comenzando a introducir servicios como, por ejemplo, cambiar a IA de salud centrada en el consumidor. la salud del copiloto, ChatGPT SaludY SaludAI de Amazon Estos modelos ayudan a los usuarios a interpretar sus registros médicos y hacer preguntas sobre sus síntomas, resultados de laboratorio y opciones de tratamiento.

Sin embargo, esperar que una herramienta de inteligencia artificial asuma el papel de su médico conlleva riesgos. Además, los usuarios no sólo corren el riesgo de recibir consejos incorrectos, sino también de compartir información personal extremadamente sensible con sistemas cuya protección de datos, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico u hospital, y que sus datos pueden estar expuestos a lugares inesperados. Según un informe de seguridad del paciente de EE. UU., el uso indebido de los chatbots de IA en general es ahora la mayor amenaza en el campo de la tecnología sanitaria organización.

De la teoría a la práctica

La razón por la que los modelistas se están afianzando en este ámbito es obvia: los chatbots se han convertido en un método muy popular para buscar consejo médico. Respectivamente microsoftLa gente habla de su salud y la de sus seres queridos en sus dispositivos móviles más que sobre cualquier otro tema. Los chatbots están disponibles las 24 horas del día, los 7 días de la semana y tienen respuesta para todo, en un tono seguro que ayuda a los pacientes nerviosos a calmarse.

En un momento en que los sistemas nacionales de salud están bajo una presión cada vez mayor, muchas personas probablemente usarían la IA para autodiagnosticarse antes de decidir si consultar a un médico. El tiempo, el esfuerzo y los costos potenciales asociados con el ingreso al laberíntico sistema de salud en lugar de la clasificación en el hogar hacen que este sea un enfoque popular.

Sin embargo, ya hay preocupaciones. La primera razón son las alucinaciones o los falsos consejos. Una Universidad de Oxford estudiar publicado en febrero medicina natural encontró:

• Los usuarios a menudo no sabían qué información compartir con el LLM
• Los LLM dieron respuestas muy diferentes, incluso si las preguntas que les hicieron variaron solo ligeramente
• Los modelos a menudo daban buenos y malos consejos, pero los usuarios tenían dificultades para distinguir entre los dos.

«A pesar de todo el revuelo, la IA simplemente no está preparada para asumir el papel de médico», advirtió la doctora principal del estudio, la Dra. Rebecca Payne. «Los pacientes deben ser conscientes de que preguntar a un modelo de lenguaje grande sobre sus síntomas puede ser peligroso, hacer diagnósticos falsos y no reconocer cuándo se necesita ayuda urgente».

Descubriendo riesgos de protección de datos

También existen riesgos no relacionados con la salud que deberían hacer reflexionar a las personas. Lo más obvio es que compartir información médica confidencial con un chatbot disponible públicamente podría dar como resultado que los datos se utilicen para entrenar el modelo y, por lo tanto, se compartan con otros. Incluso sin querer, los modelos se han hecho conocidos para revelar datos ingresados ​​accidentalmente por sus usuarios.

Algunos proveedores pueden usar datos para mejorar sus modelos a menos que los usuarios opten por no participar, mientras que otros pueden hacer promesas más firmes de no utilizar información relacionada con la salud para capacitación. En cualquier caso, todo el mundo debería saber qué tipo de servicio es antes de subir contenido sensible. Su información de salud no es como una tarjeta de crédito robada que puede congelarse mientras se reemplaza y reemite la información. Es suyo de por vida y, una vez compartido con una herramienta de inteligencia artificial, puede convertirse en un registro digital permanente.

Por otro lado, la mayoría de los principales chatbots centrados en la salud prometen no utilizar estos datos con fines de formación. Aun así, la formación es sólo una parte de la protección de datos y es posible que los servicios no hagan las mismas promesas sobre el intercambio de datos con terceros. Su información médica personal puede terminar en manos de un agregador de datos, un tercero que se interpone entre el proveedor modelo y su proveedor de atención médica. También se pueden compartir con anunciantes, ya sea directamente o a través de uno de estos agregadores, aunque normalmente se anonimizan antes de su uso. Sin embargo, hay que tener cuidado: los datos de salud son inusualmente sensibles y el anonimato no siempre elimina todos los riesgos.

Cuando el riesgo de brechas de seguridad se multiplica

El problema de que los datos confidenciales pasen por tantas organizaciones es que es más probable que queden expuestos a ladrones y estafadores digitales. Eso es lo que dicen los legisladores estadounidenses. Habiendo identificado pérdidas por valor de 21.000 millones de dólares relacionadas con un puñado de filtraciones en empresas de corretaje de datos. Los estafadores pueden monetizar en gran medida los datos de salud por varias razones:

• Conserva su valor durante largos períodos de tiempo porque normalmente no se puede reemplazar ni volver a emitir.
• Podría ser información del seguro que puede usarse para presentar reclamos falsos u obtener servicios médicos en su nombre.
• Podría usarse para chantajearte.

Cuantas más empresas tengan estos datos, más oportunidades tendrán los piratas informáticos de comprometerlos y robarlos. El desafío es que la mayoría de las herramientas de inteligencia artificial en el cuidado de la salud no están reguladas por HIPAA porque están clasificadas como servicios para consumidores, no para empresas. Esto significa que es posible que los proveedores no estén sujetos a las estrictas normas de protección de datos que normalmente esperaría.

Consejos para pacientes

Entonces, ¿cómo se puede minimizar la exposición a la GenAI en el sector sanitario? Si le preocupa una enfermedad, evite los robots de uso general y busque robots diseñados específicamente para responder preguntas relacionadas con la salud. Compruebe si el servicio explica cómo maneja sus datos, si utiliza sus solicitudes de capacitación, si comparte información con terceros y si está cubierto por HIPAA o una regulación de protección de datos equivalente en su país.

No confíe ciegamente en el resultado a menos que haya enlaces de citas para verificarlo. E incluso entonces, no tome las respuestas como una buena palabra: consulte siempre a un médico y/o a un sitio web oficial (p. ej. Servicio Nacional de Salud, MedlinePlus).

Para proteger su privacidad, tenga en cuenta lo siguiente:

• Nunca comparta ni cargue documentos médicos, resultados de laboratorio u otros documentos confidenciales en una herramienta de inteligencia artificial a menos que comprenda cómo la herramienta maneja estos datos.
• Evite ingresar nombres, direcciones, información de seguros, números de pacientes u otros identificadores.
• Asegúrese de que las funciones de historial de chat y entrenamiento estén desactivadas.
• Solo comparta la información mínima requerida para la tarea.
• Suponga que todo lo que escriba se puede guardar o ver y ajuste sus indicaciones en consecuencia.

En última instancia, los chatbots de IA pueden ser útiles para generar preguntas sobre una afección específica para hacerle a su médico o para explicar un término médico con el que no está familiarizado. Sin embargo, existe una gran diferencia entre usar la IA para preparar la atención y usarla para reemplazar la atención. No trate una determinada respuesta como un diagnóstico ni ignore síntomas urgentes sólo porque una máquina sonó tranquilizadora.