Un estudio de INGENIO (CSIC-UPV) propone un marco ético para incorporar la inteligencia artificial en medicina y, en concreto, en los sistemas de apoyo a las decisiones clínicas. El modelo sitúa el juicio humano en el centro y plantea que estas tecnologías deben ayudar a los profesionales sanitarios sin sustituir su responsabilidad en diagnósticos y tratamientos. Proponen un marco ético para el…
El trabajo, publicado en la revista Science and Engineering Ethics, parte de la denominada ética discursiva. Este enfoque apuesta por la transparencia, el diálogo y la participación de las personas afectadas. Su aplicación pretende que las recomendaciones de un algoritmo puedan comprenderse, cuestionarse y valorarse antes de adoptar una decisión clínica. Proponen un marco ético para el…
Estos sistemas, conocidos como CDSS por sus siglas en inglés, analizan información clínica y proporcionan datos, predicciones o recomendaciones. Su objetivo es facilitar decisiones sobre el diagnóstico o el tratamiento de los pacientes. Sin embargo, su incorporación a la medicina abre interrogantes sobre el grado de confianza que debe depositarse en una recomendación automatizada y sobre quién asume finalmente la responsabilidad. Proponen un marco ético para el…
Una inteligencia artificial que apoye al médico, pero no decida por él
El estudio defiende que la responsabilidad sobre las decisiones debe continuar en manos de los profesionales sanitarios. Para conseguirlo, las recomendaciones de la IA deberían ser comprensibles y trazables, de manera que el personal médico pueda evaluarlas antes de incorporarlas a su juicio clínico. Proponen un marco ético para el…
José Félix Lozano, investigador de INGENIO y autor del trabajo, explica que «aplicado al ámbito clínico, este enfoque busca que las recomendaciones generadas por la IA puedan ser comprendidas, cuestionadas y valoradas dentro de un proceso de deliberación humana». Proponen un marco ético para el…
Lozano es catedrático de Filosofía Moral en la Universitat Politècnica de València e investigador de INGENIO. Su actividad académica aborda, entre otros campos, la ética profesional, de la ingeniería y de la investigación. La institución también desarrolla otras líneas sobre inteligencia artificial aplicada al ámbito sanitario, donde la implantación segura y los retos éticos forman parte de los desafíos identificados.
La ética debe incorporarse desde el diseño de la IA
La propuesta plantea que la reflexión ética no aparezca únicamente cuando el sistema empieza a utilizarse. Debe estar presente desde su diseño y desarrollo y mantenerse durante toda su aplicación. En ese proceso deberían intervenir desarrolladores, profesionales sanitarios, especialistas en ética y pacientes. Proponen un marco ético para el…
«La IA en las decisiones clínicas no debería valorarse únicamente por su precisión o capacidad para realizar predicciones», señala Lozano. El diseño también debe preservar la autonomía de pacientes y profesionales y permitir que las recomendaciones puedan entenderse y cuestionarse. Proponen un marco ético para el…
El modelo exige, además, un trabajo interdisciplinar que conecte ámbitos como la filosofía moral, la ingeniería de datos y las políticas públicas. La investigación sostiene que esta colaboración resulta necesaria para integrar la reflexión ética durante todo el desarrollo y uso de estas tecnologías. Proponen un marco ético para el…
La cuestión adquiere especial relevancia conforme aumenta el uso de algoritmos en entornos sanitarios. La propia UPV establece controles éticos para investigaciones que impliquen inteligencia artificial basada en datos personales o destinada a aplicaciones en humanos a través de su Comité de Ética en Investigación.
