“Se habla mucho sobre la inteligencia artificial en la atención médica, pero solo muy poco obtiene práctica clínica”, dice Michel Van Genderen, profesor intermedio y asociado intermedio para el desarrollo e implementación de Inteligencia artificial (Ai) en el IC en el Erasmus MC. “Es realmente triste. Solo el 2 por ciento de los modelos de IA que están concebidos para el IC logra la práctica, resultó investigación que hicimos en 2021. Repitimos esta investigación el verano pasado, que aún tiene que publicarse, y sigue siendo un 2 por ciento. Creo que esto es representativo de toda la atención. Solo hay un progreso mínimo. Mientras tanto, puede leer mensajes rugientes sobre AI que se desempeña mejor que los médicos, pero generalmente resulta que no se prueba en la práctica.
“Se extiende la ética una y otra vez”, dice Jeroen Van Den Hoven. “¿Es ciertamente que la IA funciona de manera confiable en cualquier momento? No hay ninguno inclinación? ¿Cómo se organiza la responsabilidad y la responsabilidad si algo sale mal? Técnicamente puede haber mucho, la IA no está casi lista para ello.
Van Den Hoven es profesor universitario de ética y tecnología en TU Delft y director de TU Delft Digital Ethics Center. Desde el 6 de marzo, su centro de ética ha sido uno socio oficial de la Organización Mundial de la Salud (OMS). El Centro asesorará sobre aspectos éticos y legislación y regulaciones sobre la aplicación de IA en la atención médica.
El hecho de que la OMS se acerca a esto en Delft se debe en parte a la cooperación intensiva entre el grupo de investigación Van den Hovens en Delft y el de Michel Van Genderen y Diederik Gommers en el Erasmus MC en Rotterdam. Juntos traducen preguntas éticas en la práctica clínica. Hablamos entre sí un día antes de la Ceremonía de la OMS en la Casa Nieuwe de la IA en el campus universitario en Delft.
Según Van Den Hoven y Van Genderen, el momento en que la atención ya no puede estar cerca de IA está muy cerca. “La IA se está desarrollando rápidamente y en la atención médica estamos atrás”, dice Van Genderen. “Si no desarrollamos la IA, entonces podría hacerse por nosotros, el empuje tecnológico Alrededor de la IA es muy fuerte. Lo veo como una obligación moral de comenzar. La necesidad también es que las personas y los recursos de la salud son escasas y la atención médica en sí misma se vuelve más compleja.
“Gran tecnología Ha demostrado claramente que obtenemos una cierta cosmovisión y un cierto estándar a través de nuestras cosas “, agrega Van Den Hoven. “Es extremadamente importante que desarrollemos Zorg-AI aquí en la UE en nuestras propias condiciones, para que no obtengamos la ética de otra persona, ya sea sin saberlo o no”.
Zorg-AI está disponible en dos sabores. Por un lado, hay modelos de IA que respaldan las decisiones clínicas, por ejemplo, sobre cuándo alguien de un departamento normal debe ser transferido al IC. Además, hay una IA que apoya otros aspectos de la atención, como los modelos de idiomas que resumen las entrevistas familiares y las ponen en el archivo, lo que reduce la carga de la administración.
Pruebas
Con ambas formas están probando en Erasmus MC, dice Van Genderen. “Tenemos un modelo con el que podemos predecir con mucha más certeza si los pacientes pueden irse a casa después de una gran cirugía de cáncer. Vimos que en promedio, después de dos días, una intervención hospitalaria ya no era necesaria. Por lo tanto, no hay reoperación, sin sangrado, sin imágenes, en resumen, no hay cosas que las personas deben estar presentes en el hospital. Sin embargo, las personas están en el hospital durante 6 días en promedio, a menudo por certeza. ¿Cómo sabemos si puede ser más corto? Primero probamos el modelo de datos históricos de pacientes, y funcionó muy bien. El siguiente paso fue hacer declaraciones sobre nuevos pacientes.
Eso fue considerablemente más difícil. “Nos perdimos un software que verifica el rendimiento del modelo”, dice Van Genderen. “Nuestro modelo se estaba ejecutando y, mientras tanto, recibimos una actualización de nuestro sistema de información. En la parte posterior, una etiqueta de datos cambió de nuestro modelo. El rendimiento del modelo disminuyó, pero continuó indicando la misma certeza. Debido a que estábamos ocupados en un entorno de investigación, siempre monitores, por lo que nos dimos cuenta. Esto, por supuesto, no debería suceder en la vida real.
Los médicos también resultaron no confiar en el modelo. “Querían saber más sobre cómo se entrenó a la modelo”, dice Van Genderen. “Mi paciente tiene un desagüe, ¿el modelo está entrenado en personas con un desagüe? La transparencia es extremadamente importante, todos deben saber cuándo se puede confiar en el modelo y en cualquier caso.
“En la atención actual hay todo tipo de mecanismos que aseguran la confianza, como la capacitación adicional, las transferencias diarias y las reglas para el uso de medicamentos”, dice Van Den Hoven. “Con IA, de repente se agrega una gran cosa técnica. El tejido social debe formarse nuevamente, debe haber nuevos procedimientos y métodos. Nueva asignación de responsabilidad también.
Las discusiones se están levantando
La ética pronto gana en discusiones que pasan altas, en los cuales llegan términos como transparencia, honestidad y justicia. “Todos tienen su propio desempeño en este tipo de conceptos, qué significa en términos concretos”, dice Van Den Hoven. “¿Cómo se traduce esto a un modelo que puede decidir si un paciente puede irse a casa o no? Tratamos de atrapar esa ética en términos medibles, requisitos Esto se llama en teters de software. Los éticos generalmente permanecen lejos de eso, pero parece haber una enorme necesidad de ello. Ese enfoque práctico es una de las razones por las que quiere trabajar con nosotros.
Las preocupaciones sobre la justicia y la transparencia se unen en el problema concreto del sesgo: no es raro juzgar modelos de IA con un cierto sesgo. Van Genderen tiene varios ejemplos. “En los Estados Unidos, se implementó un modelo de predicción de riesgos que 30 por ciento peor Resultó a trabajar Para las personas negras, porque el punto de partida del modelo no era grave de la enfermedad, sino los costos de atención médica. Debido a que se ha gastado menos dinero en el pasado en el cuidado de pacientes negros, entre otras cosas, debido a las desigualdades socioeconómicas, se subestimó su estado de salud real. La unidad de costos de atención médica parecía conducir a la discriminación.
En la ciencia, generalmente se sabe cómo un grupo de investigación debe estar equilibrado, ¿por qué este problema de sesgo sigue siendo tan persistente? “Esa es también una de nuestras preguntas, ¿qué se necesita para evitar esto?” “Queremos ir a un tipo de proceso de validación, uno evaluación de sesgo. Debe ser explicable en el que se entrene un modelo. Puede seguir que un modelo funcione menos bien para un determinado grupo. Eso no lo hace inutilizable de inmediato, pero tienes que saberlo. Los datos de capacitación también deben ser cualitativos y controlados, ahora hay un importante proyecto europeo para garantizar que se recopilen los mismos datos en España que en Estonia.
La privacidad y la IA no siempre van bien juntos, en Europa, esto se está tratando mucho más estricto que en los Estados Unidos, por ejemplo. “La privacidad es de hecho uno de los grandes obstáculos para implementar la IA”, dice Van Den Hoven. “Pero al poner la privacidad como una condición básica en la tabla, también se libera la innovación que tiene esto en cuenta. Un modelo solo funciona si está bien entrenado, en muchos datos representativos. Pero entrenar en sí mismo es lo mejor con la privacidad en mente. Con el aprendizaje federativo, los datos no están en un servidor central. El modelo viaja a lo largo de los datos para aprender en el acto.
Incluso si la IA es común, el médico seguirá siendo responsable
La sostenibilidad también debe ser una condición de la tierra, los dos piensan. Van Genderen: “Ai sorbe la energía. Supongamos que un modelo de IA funciona solo un poco mejor que la forma tradicional, ¿vale la pena? Lo dudo, pero tenemos que hablar de eso. Sin embargo, nunca se trata, en ningún estudio sobre la IA en la atención médica, los investigadores analizan la sostenibilidad. ¡Investigamos eso, ninguno!
Incluso después de estos obstáculos, quedan grandes preguntas: ¿quién es responsable, ¿quién tiene la última palabra? Y por lo tanto también: ¿quién es responsable si las cosas salen mal? Supongamos que a un paciente fue despedido dos días después de una operación importante porque el modelo le dio luz verde, y una vez en el hogar se deduce una complicación importante que muere. ¿Es responsable el fabricante del modelo o del médico? El intivista Van Genderen puede explicar en la situación actual cómo llegó a su decisión. ¿Puede hacer eso pronto?
“Incluso si la IA es común, el médico sigue siendo responsable”, dice Van Genderen. “Así que tengo que poder interpretar el modelo y tomar la decisión. ¿Hay muchas cosas que tenemos que relacionar con nuestra profesión, como lo sensible que debe ser un modelo? ¿Lo encontramos suficiente si el modelo es 90 por ciento seguro? O 99 por ciento o 100 por ciento? ¿Y qué es el 100 por ciento entonces? Un estudiante de Jeroen recientemente también se le ocurrió una situación invertida muy interesante: ¿qué pasa si el modelo le da luz verde pero el médico decide algo más? ¿Quién seré para ignorar el modelo?
Coche de autos
“Tenemos este tipo de problemas epistémico Llamado “, dice Van Den Hoven. “Como modelo profesional, la dependencia del conocimiento se crea en el momento en que se extrae usted, como profesional. Ya no puedes dar buenas razones para no estar de acuerdo.
El auto de conducción autónomo ha sido una promesa durante diez años, pero en algunos lugares el Auto drisveress No fuera del suelo. Factor importante: el umbral de responsabilidad y responsabilidad sigue siendo demasiado alto. ¿Se puede resolver este punto fundamental para la atención médica? “Vamos a trabajar con el hombre y el poder”, dice Van Den Hoven.
Otra analogía del camino: navegar. Gracias a Tomtom y Google Maps, muchas personas han olvidado la lectura de tarjetas y navegando. Van Genderen estudió durante dieciséis años y ahora tiene que lidiar con la interpretación de los datos del paciente. ¿Dónde está esa habilidad? Pérdida suena peligrosa. Pero, ¿es tan malo, si resulta que AI funciona constantemente?
“En la aviación, el piloto automático también hace casi todo”, dice Van Den Hoven. “Los pilotos mantienen sus habilidades actualizadas al hacer horas en un simulador de vuelo ultramoderno. Creo que mantener lo técnico habilidades tiene éxito. Estoy más preocupado por el Habilidades moralesla confianza que tenemos juntos en el sistema de atención actual y el tejido social fino que se basa.
“Ahora hablamos principalmente de problemas, no olvidemos que la IA realmente puede producir mucho”, dice Van Genderen. “En nuestro estudio vimos que los pacientes podían irse a casa en promedio cuatro días antes y que el número de recordaciones de referencia era menor. Ciertamente, no solo estamos en enviar personas antes, por lo que será realmente más seguro.
About the Author
