El poder y los escollos de la IA generativa: alucinaciones, adulación, sesgos, explicabilidad y desinformación vistos desde la consulta

Siun paciente llega con un diagnóstico de ChatGPT de «liquen plano» y una lista de tratamientos

No descalifico la herramienta ni al paciente; le pregunto qué le escribió exactamente y leo la respuesta con él. Suele ser plausible y bien redactada, pero a menudo estrecha: exploro mucosas, uñas y cuero cabelludo, pregunto por fármacos y planteo el diferencial que el chatbot no mencionó. Si cita «estudios recientes», le explico con naturalidad que estos modelos pueden inventar referencias. Cierro con una fuente escrita propia y un plan claro, porque la mejor vacuna contra la desinformación es una explicación comprensible y una relación de confianza.

Siredacto con un asistente de IA el informe para visado de un biológico en psoriasis

Uso solo la herramienta contratada por el centro, nunca un chatbot de consumo con datos identificables. Le doy contexto preciso (PASI, DLQI, fracasos previos, comorbilidades) y le pido que no añada nada que no esté en la historia. Reviso línea a línea las cifras, las fechas y, sobre todo, cualquier afirmación de eficacia o de guía clínica: ahí es donde se cuela la «investigación reciente» inexistente. El borrador me ahorra veinte minutos; la verificación me la quedo yo, porque firmo el informe.

Siun residente me presenta un caso de placa descamativa con el diferencial que le ha dado la IA

Le pido primero el suyo, sin pantalla, y después comparamos. Aprovecho la lección de Wachter: el fallo típico no es la invención, sino la lista corta. Pregunto qué diagnóstico sería grave pasar por alto (micosis fungoide, tiña incógnita, enfermedad de Bowen) y si aparece en la respuesta. Después le enseño a repreguntar al modelo con la hipótesis contraria para comprobar si simplemente le da la razón. La IA entra en la docencia como interlocutor, no como sustituto del razonamiento.

Siel servicio me propone un clasificador de dermatoscopia validado en otro país

Pido el informe de validación desglosado por fototipo, edad, sexo y localización, y cómo se recogieron las imágenes. Pregunto por el marcado CE y la clase, quién financió el desarrollo y qué plan de algoritmovigilancia tendremos: concordancia con histología cada trimestre y un responsable de revisarla. No exijo que me explique «por qué» cada lesión; exijo que rinda en mis pacientes y que alguien vigile que lo siga haciendo cuando cambiemos de cámara o de flujo.

Siuna paciente me dice que ha leído que la crema solar provoca melanoma y que lo confirma un vídeo de un «dermatólogo»

No entro en combate: reconozco que el contenido es convincente y que hoy cualquiera puede fabricar un vídeo creíble. Le explico en dos minutos qué sabemos de la fotoprotección y qué significa que un modelo pueda producir miles de textos y vídeos falsos a coste cero. Le doy un recurso escrito del servicio y la invito a traerme cualquier duda que encuentre en redes antes de cambiar un tratamiento. La confianza se gana con tiempo y claridad, no con autoridad.

Siquiero usar un chatbot para preparar una conversación difícil con un paciente con melanoma avanzado

Sigo el ejemplo del autor: pido un guion que combine honestidad y empatía, adaptado a la edad, la familia y la situación social de la persona, y lo uso para ordenar mis ideas, no para leerlo. Tras la consulta, le describo cómo fue y le pido crítica concreta. Nunca introduzco datos identificables. La conversación la tengo yo; la IA es el ensayo general y el espejo posterior.