Al tanto de todo: el umbral de lo «suficientemente bueno», el piloto automático y los límites del médico en el bucle
Sobre el capítulo 3, «Al tanto de todo» (Robert M. Wachter) · A Giant Leap: How AI Is Transforming Healthcare and What That Means for Our Future, 1.ª ed., 2026
Este capítulo responde a dos preguntas que atraviesan la implantación de la IA clínica: cuándo una herramienta es lo bastante buena para adoptarla y cuándo puede funcionar sin supervisión. Wachter usa los coches autónomos (Waymo, Cruise, Tesla) y la aviación (Air France 447, el TCAS de Überlingen) para explicar el umbral de adopción, el sesgo de automatización y la pérdida de habilidades; presenta a Hippocratic AI, la única empresa que habla abiertamente de «piloto automático»; y argumenta que el «médico en el bucle» fallará con frecuencia si no se diseña bien. Esta lectura lo traslada a la dermatología y lo contrasta con la evidencia y la regulación europea de 2026.
Obra de referencia: Wachter RM, A Giant Leap: How AI Is Transforming Healthcare and What That Means for Our Future, 1.ª ed. (Portfolio/Penguin, 2026). Síntesis editorial DermRX actualizada a octubre de 2026 · Revisión clínica individual pendiente · 16 min de lectura.
En 20 segundos
- Una tecnología se adopta cuando su mezcla de calidad, seguridad, comodidad y coste cruza un umbral que depende de lo que está en juego: muy alto en diagnóstico, bajo en tareas administrativas. Por eso los pioneros de los años ochenta fracasaron al empezar por el diagnóstico, y por eso Waymo necesitó quince años de entrenamiento con conductor de seguridad.
- Casi nadie en la IA sanitaria dice en público lo que piensa en privado sobre la autonomía. La excepción es Hippocratic AI, que diseñó agentes conversacionales autónomos para coordinación asistencial, los sometió a 250 000 conversaciones revisadas por 6500 enfermeras y rechaza entrar en el diagnóstico porque «no es lo suficientemente seguro».
- El médico en el bucle será el paradigma dominante durante años, pero está abocado a fallar con frecuencia: vigilar una tecnología casi siempre fiable es algo que los humanos hacemos mal, perdemos habilidades y sufrimos sesgo de automatización. Hay que diseñar la colaboración: incertidumbre visible, opinión humana primero, tiempo real para verificar.
Claves de la lectura
El umbral invisible de lo suficientemente bueno
Mollick cuenta la historia de la cámara digital: ventas marginales hasta que la calidad se acercó a la analógica, y entonces una adopción explosiva. Wachter extrae la regla: la eficacia no se juzga aislada, sino en combinación con seguridad, comodidad, coste y atractivo, y el umbral sube con lo que está en juego. Esa es la razón de que los sistemas expertos de los ochenta fracasaran al abordar el diagnóstico y de que hoy la IA entre por la documentación. En dermatología, el umbral para un escriba ambiental es bajo; para un clasificador que decide si una lesión se biopsia o se da de alta, es altísimo.
Waymo y Cruise: cómo se gana y cómo se pierde la confianza
El autor viaja cada semana en un Waymo y describe el camino que lo hizo posible: millones de kilómetros reales y simulados, miles de horas con un conductor de seguridad que solo observaba, un operador remoto para casos extremos como la anciana en silla de ruedas persiguiendo un pato. La contracara es Cruise: un robotaxi arrastró a una peatona herida por otro vehículo, perdió la licencia, el fundador dimitió y GM cerró el programa. La lección para la IA clínica es doble: gatear antes de andar, empezando por aplicaciones de bajo riesgo, y asumir que un solo fallo mediático puede hundir una tecnología aunque sea más segura que el humano.
Hippocratic AI: la única empresa que dice «piloto automático»
Munjal Shah no habla de copiloto ni de inteligencia aumentada: quiere agentes conversacionales autónomos para coordinación asistencial de pacientes complejos en domicilio, un ámbito de necesidad enorme y riesgo relativamente bajo, con incentivos de Medicare Advantage para evitar urgencias. Entrenó con once millones de llamadas entre enfermeras y pacientes, aplicó RLHF y sometió unas 250 000 conversaciones a 6500 enfermeras titulados antes de lanzarlo. Wachter escuchó llamadas convincentes, incluida una escalada correcta a enfermera por debilidad y disnea. Y Shah se niega a entrar en el diagnóstico: «no es por ahí por donde hay que empezar».
Lo que los fundadores dicen en privado
Peter Lee admite que, en público, sostiene que es improbable que una máquina sustituya a especialidades enteras, mientras que en privado no ve por qué no en algunas. Muthu Alagappan, de Counsel, calcula que si sus médicos avalan la recomendación de la IA el 99 % de las veces, con un millón de refuerzos el sistema acaba siendo autónomo. El «copiloto» tranquiliza a reguladores, abogados, financiadores que pagan por actos humanos, profesionales que temen por su empleo y pacientes que quieren a un médico con la última palabra. Jon Stewart lo resume: «la carga que supone la gente… antes se les llamaba empleados».
Por qué el médico en el bucle está abocado a fallar
Si la IA acertara la mitad de las veces se desecharía; si acertara siempre, aprenderíamos a quitar al humano. Durante una década estará en medio: útil pero no fiable del todo, con un médico que aprueba al final. Wachter, que firmó con Adler-Milstein y Redelmeier un artículo en JAMA sobre los límites de la vigilancia clínica, enumera tres fallos: los humanos vigilamos mal lo que casi siempre funciona (los más de cincuenta accidentes mortales de Tesla con «supervisión activa»), perdemos habilidades (Air France 447) y sufrimos sesgo de automatización, que es peor cuando la indicación es conversacional, viene rodeada de datos correctos y la herramienta siempre acertó antes.
Cuando el humano estropea un sistema que acierta
El TCAS ordenó ascender; el controlador suizo ordenó descender; el piloto ruso obedeció al humano y murieron setenta y una personas. Hoy el TCAS manda y nadie puede anularlo. En medicina ya hay un ejemplo: en el ensayo de Jonathan Chen, los médicos con GPT-4 puntuaron 76 % en razonamiento diagnóstico frente a 74 % sin él, mientras que GPT-4 solo alcanzó el 92 %. El «teorema» de que humano más máquina supera a ambos no se cumplió. Aun así, todos los entrevistados defienden mantener al humano por los casos extremos: la radióloga de la UCSF que evitó biopsiar unos «nódulos pulmonares bilaterales» que eran los pezones bajo un protector mamario.
Diseñar la colaboración y aceptar lo inefable
El autor propone soluciones concretas: que la IA muestre su nivel de certeza y señale contradicciones en la historia, usar dos modelos distintos y marcar los desacuerdos, código de colores verde y amarillo, pedir primero la opinión del médico, insertar errores deliberados al estilo de la TSA (si el sistema que los filtra es infalible) y reservar la mitad de la eficiencia ganada para verificar en lugar de ver más pacientes. Añade por qué el humano durará más de lo previsto: facturación («si no hay médico, no facturo»), responsabilidad civil y la observación de Christakis de que queremos a alguien a quien responsabilizar, aunque sea un sello de goma.
Conceptos que conviene tener claros
Umbral, autonomía, supervisión y sus trampas: lo que cuenta el libro y lo que significa en una consulta de dermatología.
El umbral y la curva de adopción
Umbral de lo suficientemente bueno
Calidad más coste más riesgo- Qué es
- Punto en que la combinación de calidad, seguridad, comodidad, coste y atractivo hace que una tecnología se perciba como superior; depende de lo que está en juego.
- Lo que cuenta el libro
- Cámaras digitales: de cinco a uno a favor del carrete en 2000 a quince a uno a favor del digital nueve años después; en sanidad el umbral es alto porque las consecuencias son graves.
- En dermatología
- Un escriba ambiental cruza el umbral con pocos requisitos; un sistema que da de alta lesiones sin verlas un dermatólogo necesita validación prospectiva y vigilancia.
Waymo: gatear antes de andar
Quince años, conductor de seguridad- Qué es
- Modelo de despliegue gradual: entrenamiento masivo real y simulado, fase con humano observando, operador remoto para casos extremos y expansión ciudad a ciudad.
- Lo que cuenta el libro
- Wachter se echa la siesta en el asiento trasero; la empresa conserva un operador remoto para situaciones del tipo «silla de ruedas y pato».
- En dermatología
- Equivale a implantar un clasificador primero en modo sombra, luego como segunda lectura y solo después con autonomía parcial en lesiones de bajo riesgo.
Cruise: el coste de un solo fallo
Un accidente, una empresa- Qué es
- La asimetría entre el beneficio agregado de una tecnología y el impacto de un único suceso adverso mediático.
- Lo que cuenta el libro
- Octubre de 2023: el robotaxi arrastró seis metros a una peatona; licencia suspendida, dimisión del fundador, multa y cierre del programa en diciembre de 2024.
- En dermatología
- Un melanoma dado de alta por un algoritmo sin revisión humana sería ese titular; los servicios deben planificar la comunicación y la revisión de eventos antes de que ocurran.
Médicos mejores lobistas que taxistas
Anticuerpos profesionales- Qué es
- Reacción de los colectivos profesionales ante tecnologías que amenazan su empleo o estatus, a menudo expresada como preocupación por la seguridad del paciente.
- Lo que cuenta el libro
- Las huelgas de 2023-2024 en automoción, puertos y Hollywood tuvieron la IA de fondo; el mayor sindicato de enfermería de EE. UU. objetó la «IA no probada».
- En dermatología
- Conviene separar con honestidad los argumentos de seguridad de los de autopreservación cuando el servicio debata teledermatología automatizada.
Piloto automático
Hippocratic AI
Agentes autónomos de cuidados- Qué es
- Empresa de Munjal Shah que desarrolla agentes conversacionales autónomos («agente de IA para la salud», no «enfermera») para coordinación asistencial y triaje telefónico.
- Lo que cuenta el libro
- Once millones de llamadas de entrenamiento, 250 000 conversaciones revisadas por 6500 enfermeras, casi 300 millones recaudados y valoración de unicornio en 2025.
- En dermatología
- El equivalente sería el seguimiento telefónico automatizado de pacientes con biológicos o isotretinoína, con escalada a enfermería ante señales de alarma.
Umbral de escalada
Saber cuándo devolver el mando- Qué es
- Capacidad del sistema autónomo para reconocer la situación que excede su competencia y pasar al humano; Shah afirma que GPT fallaba la mitad de las veces en que debía escalar.
- Lo que cuenta el libro
- Piernas débiles más disnea tras el alta activaron la escalada y una enfermera se incorporó a la llamada en segundos.
- En dermatología
- Un chatbot de seguimiento debe escalar ante fiebre con rash, afectación mucosa o ideación autolítica en acné con isotretinoína; esos umbrales deben estar escritos y auditados.
Foso defendible y «Sherlocked»
Por qué eligió un problema difícil- Qué es
- Estrategia de elegir un problema complejo que los gigantes no puedan copiar fácilmente; «Sherlocked» es el destino de la startup cuya función absorbe la plataforma dominante.
- Lo que cuenta el libro
- Shah apuesta por la coordinación asistencial porque los modelos base no tienen acceso a conversaciones reales entre clínicos y pacientes.
- En dermatología
- Las herramientas más valiosas serán las que integren datos que nadie más tiene: imágenes con histología y seguimiento, no un chatbot genérico.
Copiloto como lenguaje tranquilizador
Lo que se dice y lo que se piensa- Qué es
- El uso de «asistente», «copiloto» o «becario» para evitar la palabra autonomía y calmar a reguladores, aseguradoras, abogados, profesionales y pacientes.
- Lo que cuenta el libro
- Directivos que anuncian al consejo recortes de plantilla y a la plantilla que nadie perderá su trabajo; Nadella y Chesky parodiados por Stewart.
- En dermatología
- Cuando un proveedor insista en que su herramienta «solo asiste», pregunte qué ocurre en el flujo real cuando nadie revisa la sugerencia.
Las trampas del humano en el bucle
Vigilancia humana
Lo hacemos mal- Qué es
- La capacidad de supervisar de forma sostenida una tecnología que casi siempre acierta; los humanos somos malos en ello y peores cuanto más fiable es el sistema.
- Lo que cuenta el libro
- El manual de Tesla exige «supervisión activa» y más de cincuenta conductores murieron sin poder reaccionar en menos de un segundo.
- En dermatología
- Revisar cien lesiones etiquetadas «benignas» por un algoritmo que acierta el 98 % es la receta para no ver la centésima; el flujo debe forzar la atención.
Pérdida de habilidades
Air France 447- Qué es
- Deterioro de una capacidad cognitiva o manual cuando deja de ejercitarse porque la tecnología la asume; empeora también la calidad de la comprobación.
- Lo que cuenta el libro
- Sensores de velocidad helados, piloto automático desconectado y una tripulación que estrelló un avión intacto; Langewiesche describe la espiral automatización-peor rendimiento.
- En dermatología
- Si el residente aprende dermatoscopia con la sugerencia del algoritmo en pantalla, puede no construir nunca el patrón propio; conviene formar sin la ayuda y después con ella.
Sesgo de automatización
Memoria fantasma- Qué es
- Tendencia a aceptar la salida de la máquina por encima del juicio propio, especialmente si viene en forma conversacional, rodeada de datos correctos y con historial de aciertos.
- Lo que cuenta el libro
- Mosier (1998): los veintiún pilotos apagaron un motor por una alarma falsa y dos tercios «recordaron» indicadores de incendio inexistentes.
- En dermatología
- Un informe de dermatoscopia asistida que dice «benigno» hace que uno vea red pigmentada regular donde hay asimetría; describa la lesión antes de leer la sugerencia.
Humano que estropea el acierto
Überlingen y el ensayo de Chen- Qué es
- Situación en que la intervención humana sobre un sistema preciso introduce más errores de los que evita.
- Lo que cuenta el libro
- Médicos con GPT-4 puntuaron 76 % frente a 74 % sin él, y el modelo solo alcanzó 92 %; en el TCAS actual la máquina manda y nadie lo discute.
- En dermatología
- Si un clasificador supera claramente a los no especialistas en atención primaria, obligar a que el médico de familia «corrija» su salida puede empeorar el triaje.
Diseñar una colaboración segura
Incertidumbre visible
Verde, amarillo, desacuerdo- Qué es
- Que el sistema muestre su confianza, señale contradicciones internas de la historia y que dos modelos distintos marquen los resultados en que discrepan.
- Lo que cuenta el libro
- Un TAC mencionado en una nota pero ausente en radiología debería marcarse para comprobar; propuesta de código de colores para las recomendaciones.
- En dermatología
- Exija que el informe de IA incluya probabilidad y calidad de imagen; una lesión «benigna al 55 %» no es lo mismo que al 99 %.
Opinión humana primero
Invertir el orden- Qué es
- Que el médico registre su diagnóstico o diferencial antes de que la IA revele el suyo, como el corrector ortográfico que revisa un texto ya escrito.
- Lo que cuenta el libro
- Wachter imagina que la IA espere a su diferencial antes de mostrar sus «pensamientos», para fomentar la implicación activa.
- En dermatología
- En teledermatología, un campo obligatorio de impresión diagnóstica previa a la sugerencia del algoritmo es barato y protege del sesgo de automatización.
Errores deliberados y tiempo para verificar
La mitad de la eficiencia- Qué es
- Insertar periódicamente resultados erróneos para mantener la alerta, como la TSA con imágenes de armas, y reservar parte de la eficiencia ganada para comprobar.
- Lo que cuenta el libro
- El sistema que impida que esos errores lleguen al paciente tendría que ser infalible; propone un reparto al cincuenta por ciento entre productividad y verificación.
- En dermatología
- Si el escriba ahorra diez minutos por consulta, no los convierta todos en más pacientes; dedique parte a revisar la nota y mirar al paciente.
Resumen de historia sin humano real
Más largo que Moby Dick- Qué es
- Tarea aparentemente de bajo riesgo en la que, para detectar lo que falta, habría que leer todo lo que la herramienta evita leer; por tanto, no hay humano en el bucle.
- Lo que cuenta el libro
- Uno de cada cinco pacientes tiene más de 200 000 palabras de historia; GPT-4 erró en un 35 % de tareas de revisión; algunas herramientas resaltan ya la fuente de cada dato.
- En dermatología
- Antes de iniciar un biológico, compruebe personalmente serologías, vacunas y antecedentes oncológicos aunque el resumen de IA diga que todo está en orden.
Facturación, responsabilidad y lo inefable
Por qué el humano se queda- Qué es
- Razones no técnicas para mantener al médico en el bucle: el pago por acto humano, los jurados poco comprensivos y el deseo de tener a alguien a quien responsabilizar.
- Lo que cuenta el libro
- Kocher: «si no hay médico, no puedo facturarlo»; Anderson: las aseguradoras son racionales y acabarán cobrando por resultados; Christakis invoca a los dioses.
- En dermatología
- En el sistema público español la barrera no es la facturación, sino la responsabilidad profesional y la aceptación de pacientes y colegas; conviene documentar siempre quién decide.
Contrastes que resuelven la duda
Contrastes que ordenan el debate sobre autonomía y supervisión antes de decidir cómo implantar una herramienta.
Piloto automático frente a médico en el bucle
- Quién decide
- El sistema actúa y escala solo cuando reconoce sus límites frente a el médico aprueba cada salida como paso final.
- Dónde encaja
- Tareas de alto volumen y bajo riesgo (recordatorios, seguimiento telefónico) frente a diagnóstico y tratamiento.
- Riesgo principal
- Que no escale cuando debe frente a que el humano se convierta en un sello de goma.
- Cómo se valida
- Miles de conversaciones revisadas antes del lanzamiento y auditoría de escaladas frente a medir si la revisión humana añade valor o solo tiempo.
- En dermatología
- Llamadas automatizadas de seguimiento de isotretinoína frente a segunda lectura de lesiones en teledermatología.
Sesgo de automatización frente a pérdida de habilidades
- Qué falla
- Acepto la salida de la máquina contra mi propio juicio frente a ya no tengo el juicio porque dejé de ejercitarlo.
- Ejemplo del libro
- Pilotos que apagan un motor por una alarma falsa frente a tripulación de Air France 447 sin piloto automático.
- Cuándo aparece
- Inmediatamente, incluso en expertos frente a progresivamente, tras meses o años de dependencia.
- Cómo se mitiga
- Opinión humana primero y errores deliberados frente a práctica periódica sin la herramienta y formación previa a su uso.
- En dermatología
- Ver «benigno» en el informe y dejar de mirar frente a residentes que nunca aprendieron patrones dermatoscópicos sin pantalla.
Vigilancia frente a verificación
- Qué es
- Estar atento a que algo falle en un flujo que casi siempre funciona frente a comprobar activamente datos concretos con tiempo asignado.
- Capacidad humana
- Pobre y decreciente con la fiabilidad del sistema frente a buena si hay tiempo y un método.
- Diseño
- Depende de la atención sostenida frente a depende del flujo: campos obligatorios, resúmenes con fuente resaltada, tiempo reservado.
- Propuesta del libro
- No confiar en ella como baluarte de seguridad frente a reservar la mitad de la eficiencia para hacerla posible.
- En dermatología
- Repasar cien altas automáticas frente a verificar serologías antes de un biológico con la fuente a la vista.
Resumen de historia frente a sugerencia diagnóstica
- Percepción de riesgo
- Parece bajo y administrativo frente a parece alto y activa el cerebro clínico.
- Qué hace el médico
- Lee el resumen y confía, porque leer la fuente anula la utilidad frente a contrasta la sugerencia con años de formación.
- Humano en el bucle real
- Prácticamente ninguno frente a sí, aunque con sesgo de automatización.
- Evidencia citada
- Historias más largas que Moby Dick y 35 % de error en tareas de revisión frente a ensayos de razonamiento diagnóstico con GPT-4.
- En dermatología
- Resumen de antecedentes antes de un sistémico frente a diferencial de una lesión pigmentada.
Waymo frente a Cruise
- Estrategia
- Quince años de entrenamiento, conductor de seguridad y operador remoto frente a expansión rápida bajo presión competitiva.
- Gestión del fallo
- Casos extremos documentados y escalados frente a vídeo ocultado al regulador tras arrastrar a una peatona.
- Resultado
- Servicio en varias ciudades y confianza creciente frente a licencia suspendida, dimisión y cierre del programa.
- Lección
- Gatear antes de andar frente a un fallo basta para hundir una tecnología más segura que el humano.
- En dermatología
- Despliegue en sombra y auditoría de cada melanoma no detectado frente a autonomía precoz sin plan de eventos adversos.
Qué haría en consulta
Escenarios de una consulta de dermatología en España donde el umbral, la autonomía y el bucle humano dejan de ser teoría.
Siun informe de dermatoscopia asistida por IA etiqueta como benigna una lesión que a mí me inquieta
Antes de leer la sugerencia describo la lesión con mi método habitual y anoto mi impresión; así neutralizo el sesgo de automatización que Mosier demostró en pilotos expertos. Si mi juicio y el algoritmo discrepan, gana la biopsia o el seguimiento estrecho, nunca la etiqueta. Documento la discrepancia para la auditoría del servicio, porque esos casos son los que nos dirán si la herramienta rinde en nuestra población. La IA es una segunda opinión, no la última palabra.
Siel servicio debate implantar teledermatología con triaje automático de lesiones sin revisión dermatológica
Propongo el camino de Waymo: primero un periodo en sombra en el que el algoritmo clasifica pero no decide, comparando con nuestra lectura e histología; luego segunda lectura; y solo si los datos por fototipo y localización son sólidos, autonomía limitada a la derivación urgente, nunca al alta sin revisión. Pido un plan de eventos adversos y de comunicación antes del primer melanoma que se escape, porque la experiencia de Cruise enseña que un titular puede acabar con un programa útil.
Siuso un escriba ambiental y la gerencia quiere convertir todo el tiempo ahorrado en más pacientes por agenda
Aporto el argumento del libro: la mitad de la eficiencia para productividad y la otra mitad para verificar. Explico que el escriba genera parte del razonamiento del plan y que, si firmo sin leer, no hay humano en el bucle. Propongo medir errores de la nota durante tres meses y fijar la agenda después. Un residente nunca debería firmar una nota ambiental sin haber presentado antes su propio juicio en voz alta.
Siun resumen de IA de la historia dice que un paciente candidato a biológico «no tiene antecedentes relevantes»
No me fío del resumen para lo que puede matar. Compruebo yo serologías de hepatitis y VIH, cribado de tuberculosis, antecedentes oncológicos y vacunas, idealmente en una herramienta que resalte la fuente de cada dato. El libro recuerda que un resumen solo puede verificarse leyendo lo que la herramienta evita leer, y que GPT-4 erraba en un tercio de tareas de revisión. El resumen me orienta; la lista de comprobación la cierro con la fuente a la vista.
Sienseño dermatoscopia a un residente y el equipo ya incorpora la sugerencia del algoritmo
Primero sin pantalla: patrón, estructuras, impresión y plan. Luego mostramos la sugerencia y discutimos el acuerdo y el desacuerdo. Programo sesiones periódicas sin ayuda para evitar la pérdida de habilidades que Wachter ilustra con Air France 447 y que ya se ha medido en endoscopistas. Pido al residente que explique por qué un algoritmo podría confundir un protector o un artefacto con una lesión, como la radióloga de la UCSF que evitó biopsiar unos pezones.
Siuna empresa nos ofrece un agente conversacional para el seguimiento telefónico de pacientes en tratamiento sistémico
Pregunto por los umbrales de escalada, por escrito: fiebre con exantema, afectación mucosa, disnea, ideación autolítica. Pido cuántas conversaciones se revisaron por personal de enfermería antes de salir al mercado y cómo auditan las escaladas perdidas, el dato que Shah considera decisivo. Exijo que el agente se presente como IA en cada llamada y que la escalada llegue a nuestra enfermería en minutos. Empezaría por recordatorios y analíticas, no por síntomas.
Perlas de examen y de consulta
◆El umbral depende de lo que está en juego
Antes de evaluar una herramienta, pregunte qué pasa si falla. Para documentar, el listón es bajo; para dar de alta una lesión pigmentada sin verla, es altísimo y exige validación prospectiva y vigilancia continua.
◆Describa la lesión antes de leer la sugerencia
El sesgo de automatización actúa en segundos y también en expertos. Un campo de impresión diagnóstica previa a la salida del algoritmo es la medida más barata y eficaz para mantener al médico realmente en el bucle.
◆Si la sugerencia es conversacional, desconfíe más
El sesgo es mayor cuando el error viene rodeado de información correcta y bien redactada, y la herramienta acertó siempre antes. Los informes de IA en lenguaje natural merecen más escepticismo, no menos.
◆Un resumen solo se verifica leyendo la fuente
Para lo que puede matar (serologías, tuberculosis, antecedentes oncológicos antes de un sistémico) compruebe el dato original en la historia. Prefiera herramientas que resalten de dónde sacaron cada afirmación y recuerde que no muestran lo omitido.
◆La mitad del tiempo ahorrado es para verificar
Convertir toda la eficiencia de la IA en más pacientes elimina el bucle humano de facto. Negocie agendas con tiempo reservado para revisar notas, informes y resúmenes antes de firmarlos.
◆Entrene sin ayuda antes de entrenar con ayuda
Los residentes deben construir sus patrones dermatoscópicos y su razonamiento antes de ver la sugerencia del algoritmo. Programe sesiones periódicas sin IA para que la habilidad no se pierda.
Actualización DermRX
Qué ha cambiado entre la obra (2026) y octubre de 2026, y qué conviene matizar con la literatura.
EvidenciaEl ensayo de Chen se publicó y se replicó en decisiones de manejo
El estudio que el autor describe como preliminar es el ensayo aleatorizado de Goh y colaboradores (JAMA Network Open, 2024): cincuenta médicos con GPT-4 puntuaron 76 % en razonamiento diagnóstico frente a 74 % con recursos convencionales, y el modelo solo obtuvo 92 %. El mismo grupo publicó en Nature Medicine (2025) un segundo ensayo sobre razonamiento de manejo, con decisiones de tratamiento y pruebas sin respuesta única: ahí la asistencia del modelo sí mejoró de forma significativa la puntuación de los médicos, aunque con más tiempo por caso. La lectura conjunta matiza el capítulo: el humano puede estropear un diagnóstico que la máquina acierta sola, pero en decisiones abiertas la colaboración bien planteada añade valor. El diseño del flujo importa más que la pregunta abstracta.
Fuentes: Goh E, et al. JAMA Netw Open. 2024 PMID: 39466245. Goh E, et al. Nat Med. 2025 PMID: 39910272.DermatologíaEl piloto automático ya existe en dermatología: DERM en el sistema británico
Mientras Shah evita el diagnóstico, en el Reino Unido el algoritmo DERM, con marcado CE de clase III, opera en vías urgentes de cáncer cutáneo y puede dar de alta lesiones sin revisión humana. La validación en teledermatología mostró alta sensibilidad para melanoma y menos derivaciones. Un estudio prospectivo de 2026 en un servicio terciario inglés aporta la otra cara: sensibilidad del 95 % frente al 88 % de los dermatólogos, pero valor predictivo positivo del 46 %, diagnóstico exacto solo en el 29 % de las lesiones biopsiadas y cuatro cánceres entre las que el algoritmo habría dado de alta sin revisión. Los autores concluyen que retirar la validación humana puede ser prematuro y alertan del sesgo de automatización que induce una etiqueta poco precisa: gatear antes de andar.
Fuentes: Marsden H, et al. Front Med (Lausanne). 2024 PMID: 38585154. Earnshaw CH, et al. Skin Health Dis. 2026 PMID: 42540091.SeguridadSesgo de automatización y pérdida de habilidades, medidos en clínicos
Las analogías aeronáuticas del libro tienen ya equivalentes médicos. En mamografía, radiólogos de distinta experiencia redujeron su precisión cuando un sistema de IA les proponía una categoría BI-RADS errónea, y el efecto fue mayor en los menos experimentados. En colonoscopia, un estudio multicéntrico polaco de 2025 observó que, tras meses usando detección asistida de pólipos, la tasa de detección de adenomas de los mismos endoscopistas sin la ayuda cayó del 28 % al 22 %, el primer dato clínico de pérdida de habilidades por exposición a la IA. En dermatología, el trabajo de Tschandl mostró que la colaboración mejora al dermatólogo cuando la IA acierta, pero que los menos expertos se dejan arrastrar por sugerencias erróneas. Diseñar el flujo (opinión humana primero, práctica sin ayuda) deja de ser opcional.
Fuentes: Dratsch T, et al. Radiology. 2023 PMID: 37129490. Budzyń K, et al. Lancet Gastroenterol Hepatol. 2025 PMID: 40816301. Tschandl P, et al. Nat Med. 2020 PMID: 32572267.FormaciónEscribas ambientales: primeros ensayos aleatorizados y el riesgo para residentes
El capítulo da por hecho que la transcripción ambiental es el primer caso de uso clínico. En 2025 llegaron los ensayos aleatorizados: en UCLA, 238 médicos de catorce especialidades fueron asignados a dos escribas o a control; uno redujo el tiempo en la nota un 9,5 % y ambos mejoraron indicadores de desgaste, con inexactitudes relevantes notificadas «ocasionalmente». Un ensayo escalonado en Wisconsin redujo agotamiento y tiempo de documentación sin empeorar codificación ni calidad. En 2026, un artículo en Academic Medicine describe la «suplantación de la inferencia»: el escriba no transcribe el razonamiento del plan, lo genera, y el residente que aprende editando borradores puede no desarrollar su juicio. Propone que presente su razonamiento antes de generar la nota, la inversión de orden que defiende Wachter.
Fuentes: Lukac PJ, et al. NEJM AI. 2025 PMID: 41497288. Afshar M, et al. NEJM AI. 2025 PMID: 41625485. McGaughey S, et al. Acad Med. 2026 PMID: 42745555.RegulaciónSupervisión humana por ley: el artículo 14 del Reglamento europeo de IA
En Europa, el debate del capítulo tiene traducción jurídica. El Reglamento (UE) 2024/1689 exige que los sistemas de alto riesgo, categoría en la que entran los productos sanitarios con IA bajo el MDR, se diseñen para una supervisión humana efectiva: quien supervisa debe entender capacidades y límites del sistema, ser consciente del sesgo de automatización, interpretar la salida, decidir no usarla y poder detenerla. Es, casi literalmente, la lista de Wachter. Las obligaciones para estos productos se aplican de forma escalonada hasta 2027, y la propuesta de simplificación de la Comisión ha abierto el debate sobre si mantener la clasificación de alto riesgo sin la mayoría de sus obligaciones vaciaría esas salvaguardas. En España la AESIA será la autoridad de vigilancia; conviene documentar ya quién supervisa qué.
Fuentes: Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial), artículo 14. DOUE. 2024. Van Kolfschooten H, et al. BMJ Digit Health AI. 2026 PMID: 42825232.ModelosHistorias más largas que Moby Dick y resúmenes que no muestran lo que falta
El dato de que uno de cada cinco pacientes acumula más de 200 000 palabras de notas procede de un análisis de urgencias publicado en JAMIA Open en 2024, que documenta un crecimiento sostenido del texto disponible en cada visita. Desde entonces, las herramientas de resumen integradas en las historias clínicas resaltan la frase de origen de cada afirmación, lo que mitiga el error por invención pero no el error por omisión, como señala el capítulo. El artículo de Adler-Milstein, Redelmeier y Wachter en JAMA sigue siendo la referencia para sostener que la vigilancia del clínico no puede ser el único baluarte de seguridad. En dermatología, la regla práctica es verificar en la fuente lo que condiciona un sistémico y tratar el resumen como índice, no como historia.
Fuentes: Patterson BW, et al. JAMIA Open. 2024 PMID: 38779571. Adler-Milstein J, et al. JAMA. 2024 PMID: 38483397.Conectar con DermRX
Referencias
Lectura de referencia
Wachter RM. Capítulo 3, «Keeping Up». En: Wachter RM. A Giant Leap: How AI Is Transforming Healthcare and What That Means for Our Future. 1.ª ed. Nueva York: Portfolio/Penguin; 2026. Consultado en su edición original en inglés.
Fuentes consultadas para contrastar y actualizar
- Adler-Milstein J, Redelmeier DA, Wachter RM. The limits of clinician vigilance as an AI safety bulwark. JAMA. 2024;331(14):1173-1174. PMID: 38483397.
- Goh E, Gallo R, Hom J, et al. Large language model influence on diagnostic reasoning: a randomized clinical trial. JAMA Netw Open. 2024;7(10):e2440969. PMID: 39466245.
- Goh E, Gallo RJ, Strong E, et al. GPT-4 assistance for improvement of physician performance on patient care tasks: a randomized controlled trial. Nat Med. 2025;31(4):1233-1238. PMID: 39910272.
- Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias: decision making and performance in high-tech cockpits. Int J Aviat Psychol. 1998;8(1):47-63. PMID: 11540946.
- Patterson BW, Hekman DJ, Liao FJ, et al. Call me Dr Ishmael: trends in electronic health record notes available at emergency department visits and admissions. JAMIA Open. 2024;7(2):ooae039. PMID: 38779571.
- Dratsch T, Chen X, Rezazade Mehrizi M, et al. Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology. 2023;307(4):e222176. PMID: 37129490.
- Budzyń K, Romańczyk M, Kitala D, et al. Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. Lancet Gastroenterol Hepatol. 2025;10(10):896-903. PMID: 40816301.
- Tschandl P, Rinner C, Apalla Z, et al. Human-computer collaboration for skin cancer recognition. Nat Med. 2020;26(8):1229-1234. PMID: 32572267.
- Marsden H, Kemos P, Venzi M, et al. Accuracy of an artificial intelligence as a medical device as part of a UK-based skin cancer teledermatology service. Front Med (Lausanne). 2024;11:1302363. PMID: 38585154.
- Earnshaw CH, Cheung K, Arshad F, et al. Real-world diagnostic performance of artificial intelligence in skin cancer screening. Skin Health Dis. 2026;6(4):550-556. PMID: 42540091.
- Lukac PJ, Turner W, Vangala S, et al. Ambient AI scribes in clinical practice: a randomized trial. NEJM AI. 2025;2(12). PMID: 41497288.
- Afshar M, Baumann MR, Resnik F, et al. A pragmatic randomized controlled trial of ambient artificial intelligence to improve health practitioner well-being. NEJM AI. 2025;2(12). PMID: 41625485.
- McGaughey S, Abernethy J, Wackett J, et al. When the scribe does the reasoning: ambient artificial intelligence, inference impersonation, and the development of trainees’ clinical judgment. Acad Med. 2026. Publicación electrónica previa a la impresa. PMID: 42745555.
- Van Kolfschooten H, Solaiman B, Onitiu D. High-risk without safeguards? The EU AI Act and the push for deregulation of medical AI. BMJ Digit Health AI. 2026;2(1):e000184. PMID: 42825232.