{"id":1619358,"date":"2025-03-13T05:34:23","date_gmt":"2025-03-13T05:34:23","guid":{"rendered":"https:\/\/teknomers.com\/es\/un-medico-holandes-preferiria-no-ser-presionado-por-la-etica-de-la-ia-de-la-gran-tecnologia\/"},"modified":"2025-03-13T05:34:29","modified_gmt":"2025-03-13T05:34:29","slug":"un-medico-holandes-preferiria-no-ser-presionado-por-la-etica-de-la-ia-de-la-gran-tecnologia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/un-medico-holandes-preferiria-no-ser-presionado-por-la-etica-de-la-ia-de-la-gran-tecnologia\/","title":{"rendered":"Un m\u00e9dico holand\u00e9s preferir\u00eda no ser presionado por la \u00e9tica de la IA de la gran tecnolog\u00eda"},"content":{"rendered":"\n
\n

“Se habla mucho sobre la inteligencia artificial en la atenci\u00f3n m\u00e9dica, pero solo muy poco obtiene pr\u00e1ctica cl\u00ednica”, dice Michel Van Genderen, profesor intermedio y asociado intermedio para el desarrollo e implementaci\u00f3n de Inteligencia artificial<\/em> (Ai) en el IC en el Erasmus MC. “Es realmente triste. Solo el 2 por ciento de los modelos de IA que est\u00e1n concebidos para el IC logra la pr\u00e1ctica, result\u00f3 investigaci\u00f3n<\/a> que hicimos en 2021. Repitimos esta investigaci\u00f3n el verano pasado, que a\u00fan tiene que publicarse, y sigue siendo un 2 por ciento. Creo que esto es representativo de toda la atenci\u00f3n. Solo hay un progreso m\u00ednimo. Mientras tanto, puede leer mensajes rugientes sobre AI que se desempe\u00f1a mejor que los m\u00e9dicos, pero generalmente resulta que no se prueba en la pr\u00e1ctica.<\/p>\n

“Se extiende la \u00e9tica una y otra vez”, dice Jeroen Van Den Hoven. “\u00bfEs ciertamente que la IA funciona de manera confiable en cualquier momento? No hay ninguno inclinaci\u00f3n<\/em>? \u00bfC\u00f3mo se organiza la responsabilidad y la responsabilidad si algo sale mal? T\u00e9cnicamente puede haber mucho, la IA no est\u00e1 casi lista para ello.<\/p>\n

Van Den Hoven es profesor universitario de \u00e9tica y tecnolog\u00eda en TU Delft y director de TU Delft Digital Ethics Center. Desde el 6 de marzo, su centro de \u00e9tica ha sido uno socio oficial<\/a> de la Organizaci\u00f3n Mundial de la Salud (OMS). El Centro asesorar\u00e1 sobre aspectos \u00e9ticos y legislaci\u00f3n y regulaciones sobre la aplicaci\u00f3n de IA en la atenci\u00f3n m\u00e9dica. <\/p>\n

El hecho de que la OMS se acerca a esto en Delft se debe en parte a la cooperaci\u00f3n intensiva entre el grupo de investigaci\u00f3n Van den Hovens en Delft y el de Michel Van Genderen y Diederik Gommers en el Erasmus MC en Rotterdam. Juntos traducen preguntas \u00e9ticas en la pr\u00e1ctica cl\u00ednica. Hablamos entre s\u00ed un d\u00eda antes de la Ceremon\u00eda de la OMS en la Casa Nieuwe de la IA en el campus universitario en Delft. <\/p>\n

Seg\u00fan Van Den Hoven y Van Genderen, el momento en que la atenci\u00f3n ya no puede estar cerca de IA est\u00e1 muy cerca. “La IA se est\u00e1 desarrollando r\u00e1pidamente y en la atenci\u00f3n m\u00e9dica estamos atr\u00e1s”, dice Van Genderen. “Si no desarrollamos la IA, entonces podr\u00eda hacerse por nosotros, el empuje tecnol\u00f3gico<\/em> Alrededor de la IA es muy fuerte. Lo veo como una obligaci\u00f3n moral de comenzar. La necesidad tambi\u00e9n es que las personas y los recursos de la salud son escasas y la atenci\u00f3n m\u00e9dica en s\u00ed misma se vuelve m\u00e1s compleja.<\/p>\n

“Gran tecnolog\u00eda<\/em> Ha demostrado claramente que obtenemos una cierta cosmovisi\u00f3n y un cierto est\u00e1ndar a trav\u00e9s de nuestras cosas “, agrega Van Den Hoven. “Es extremadamente importante que desarrollemos Zorg-AI aqu\u00ed en la UE en nuestras propias condiciones, para que no obtengamos la \u00e9tica de otra persona, ya sea sin saberlo o no”. <\/p>\n

Zorg-AI est\u00e1 disponible en dos sabores. Por un lado, hay modelos de IA que respaldan las decisiones cl\u00ednicas, por ejemplo, sobre cu\u00e1ndo alguien de un departamento normal debe ser transferido al IC. Adem\u00e1s, hay una IA que apoya otros aspectos de la atenci\u00f3n, como los modelos de idiomas que resumen las entrevistas familiares y las ponen en el archivo, lo que reduce la carga de la administraci\u00f3n. <\/p>\n

Pruebas<\/h2>\n

Con ambas formas est\u00e1n probando en Erasmus MC, dice Van Genderen. “Tenemos un modelo con el que podemos predecir con mucha m\u00e1s certeza si los pacientes pueden irse a casa despu\u00e9s de una gran cirug\u00eda de c\u00e1ncer. Vimos que en promedio, despu\u00e9s de dos d\u00edas, una intervenci\u00f3n hospitalaria ya no era necesaria. Por lo tanto, no hay reoperaci\u00f3n, sin sangrado, sin im\u00e1genes, en resumen, no hay cosas que las personas deben estar presentes en el hospital. Sin embargo, las personas est\u00e1n en el hospital durante 6 d\u00edas en promedio, a menudo por certeza. \u00bfC\u00f3mo sabemos si puede ser m\u00e1s corto? Primero probamos el modelo de datos hist\u00f3ricos de pacientes, y funcion\u00f3 muy bien. El siguiente paso fue hacer declaraciones sobre nuevos pacientes.<\/p>\n

Eso fue considerablemente m\u00e1s dif\u00edcil. “Nos perdimos un software que verifica el rendimiento del modelo”, dice Van Genderen. “Nuestro modelo se estaba ejecutando y, mientras tanto, recibimos una actualizaci\u00f3n de nuestro sistema de informaci\u00f3n. En la parte posterior, una etiqueta de datos cambi\u00f3 de nuestro modelo. El rendimiento del modelo disminuy\u00f3, pero continu\u00f3 indicando la misma certeza. Debido a que est\u00e1bamos ocupados en un entorno de investigaci\u00f3n, siempre monitores, por lo que nos dimos cuenta. Esto, por supuesto, no deber\u00eda suceder en la vida real.<\/p>\n

Los m\u00e9dicos tambi\u00e9n resultaron no confiar en el modelo. “Quer\u00edan saber m\u00e1s sobre c\u00f3mo se entren\u00f3 a la modelo”, dice Van Genderen. “Mi paciente tiene un desag\u00fce, \u00bfel modelo est\u00e1 entrenado en personas con un desag\u00fce? La transparencia es extremadamente importante, todos deben saber cu\u00e1ndo se puede confiar en el modelo y en cualquier caso.<\/p>\n

“En la atenci\u00f3n actual hay todo tipo de mecanismos que aseguran la confianza, como la capacitaci\u00f3n adicional, las transferencias diarias y las reglas para el uso de medicamentos”, dice Van Den Hoven. “Con IA, de repente se agrega una gran cosa t\u00e9cnica. El tejido social debe formarse nuevamente, debe haber nuevos procedimientos y m\u00e9todos. Nueva asignaci\u00f3n de responsabilidad tambi\u00e9n.<\/p>\n

Las discusiones se est\u00e1n levantando<\/h2>\n

La \u00e9tica pronto gana en discusiones que pasan altas, en los cuales llegan t\u00e9rminos como transparencia, honestidad y justicia. “Todos tienen su propio desempe\u00f1o en este tipo de conceptos, qu\u00e9 significa en t\u00e9rminos concretos”, dice Van Den Hoven. “\u00bfC\u00f3mo se traduce esto a un modelo que puede decidir si un paciente puede irse a casa o no? Tratamos de atrapar esa \u00e9tica en t\u00e9rminos medibles, requisitos<\/em> Esto se llama en teters de software. Los \u00e9ticos generalmente permanecen lejos de eso, pero parece haber una enorme necesidad de ello. Ese enfoque pr\u00e1ctico es una de las razones por las que quiere trabajar con nosotros.<\/p>\n

Las preocupaciones sobre la justicia y la transparencia se unen en el problema concreto del sesgo: no es raro juzgar modelos de IA con un cierto sesgo. Van Genderen tiene varios ejemplos. \u201cEn los Estados Unidos, se implement\u00f3 un modelo de predicci\u00f3n de riesgos que 30 por ciento peor Result\u00f3 a trabajar<\/a> Para las personas negras, porque el punto de partida del modelo no era grave de la enfermedad, sino los costos de atenci\u00f3n m\u00e9dica. Debido a que se ha gastado menos dinero en el pasado en el cuidado de pacientes negros, entre otras cosas, debido a las desigualdades socioecon\u00f3micas, se subestim\u00f3 su estado de salud real. La unidad de costos de atenci\u00f3n m\u00e9dica parec\u00eda conducir a la discriminaci\u00f3n.<\/p>\n

En la ciencia, generalmente se sabe c\u00f3mo un grupo de investigaci\u00f3n debe estar equilibrado, \u00bfpor qu\u00e9 este problema de sesgo sigue siendo tan persistente? “Esa es tambi\u00e9n una de nuestras preguntas, \u00bfqu\u00e9 se necesita para evitar esto?” \u201cQueremos ir a un tipo de proceso de validaci\u00f3n, uno evaluaci\u00f3n de sesgo<\/em>. Debe ser explicable en el que se entrene un modelo. Puede seguir que un modelo funcione menos bien para un determinado grupo. Eso no lo hace inutilizable de inmediato, pero tienes que saberlo. Los datos de capacitaci\u00f3n tambi\u00e9n deben ser cualitativos y controlados, ahora hay un importante proyecto europeo para garantizar que se recopilen los mismos datos en Espa\u00f1a que en Estonia.<\/p>\n

La privacidad y la IA no siempre van bien juntos, en Europa, esto se est\u00e1 tratando mucho m\u00e1s estricto que en los Estados Unidos, por ejemplo. “La privacidad es de hecho uno de los grandes obst\u00e1culos para implementar la IA”, dice Van Den Hoven. “Pero al poner la privacidad como una condici\u00f3n b\u00e1sica en la tabla, tambi\u00e9n se libera la innovaci\u00f3n que tiene esto en cuenta. Un modelo solo funciona si est\u00e1 bien entrenado, en muchos datos representativos. Pero entrenar en s\u00ed mismo es lo mejor con la privacidad en mente. Con el aprendizaje federativo, los datos no est\u00e1n en un servidor central. El modelo viaja a lo largo de los datos para aprender en el acto.<\/p>\n

\n

Incluso si la IA es com\u00fan, el m\u00e9dico seguir\u00e1 siendo responsable<\/p>\n