Inteligencia artificial y productos sanitarios: evaluación ética y biojurídica

Ana Belén Cruz Valiño

doi:10.31637/epsir-2024-896

Authors

Ana Belén Cruz Valiño Jaume I University https://orcid.org/0000-0003-1108-437X

DOI:

https://doi.org/10.31637/epsir-2024-896

Keywords:

artificial intelligence, Biolaw, biomedical research, Ethics, Fundamental rights, interdisciplinarity, medical device, transparency

Abstract

Introduction: Artificial Intelligence (AI) advances a promising future scenario in biomedical research. Validation problems of AI systems in health could seriously compromise health. Methodology: The study of anti-discrimination law from the perspective of the horizontal effectiveness of fundamental rights makes it possible to ethically and legally evaluate AI developments in health products and avoid harming values in the context of contracting. Results: Analyzing the characteristics that healthcare products with AI must meet, after their definition and reconciling them with an ethical, legal and robust AI requires the commitment of all parties. Discussion: The question arises about how to adapt the CEIs for the evaluation of AI products and the Impact Assessment is recommended to avoid violations of rights. Conclusions: Avoiding these risks requires implementing rigorous validation methodologies throughout the life cycle of an AI system and the ethical and professional commitment of all those involved.

Downloads

Download data is not yet available.

Author Biography

Ana Belén Cruz Valiño, Jaume I University

PhD and degree in Law from the University of A Coruña. Master in Bioethics. Degree in Political Science and Sociology. Member of the Galician Research Ethics Committee (Ceim) years 2017-2019. Postdoctoral researcher at the Universidade da Coruña in the Research Group Philosophy, Rationality and Constitution. She has published several articles in specialized journals, in addition to making other scientific contributions, such as communications in national and international congresses, and participation in international scientific committees. Her concern for global problems broadens the horizons of her interdisciplinary research, incorporating the ethical and legal aspects of biomedical research. Professor of Law and Deontology at the European University of Valencia and researcher at the Universitat Jaume I (PhD Department of Civil Law).

References

Asociación Médica Mundial (2013). Declaración de Helsinki de la Asociación Médica Mundial: Principios éticos para la investigación médica con seres humanos, 310(20), 2191–2194. https://jamanetwork.com/journals/jama/fullarticle/1760318

Colás, J. I. O. (2016). Una panorámica de las nuevas tecnologías aplicadas al ámbito de la salud: a propósito del m-Health y sus interacciones jurídicas. DS: Derecho y salud, 26(1), 276-285.

Comisión Europea, Dirección General de Redes de Comunicación, Contenido y Tecnologías, Directrices éticas para una IA fiable, Oficina de Publicaciones, 2019, https://data.europa.eu/doi/10.2759/14078

Cruz-Valiño, A. B. (2020). El argumento «negocial» del consentimiento informado como incentivo para cumplir en la práctica clínica los requisitos de la doctrina ética y jurídica. Journal of Healthcare Quality Research, 35(4), 267-268.

Directrices Éticas para una IA Fiable. Grupo de expertos sobre inteligencia artificial de la UE, constituido por la Comisión Europea en junio de 2018, para proporcionar apoyo en la creación de la Estrategia Europea para la Inteligencia Artificial con una visión sobre "IA ética, segura y de vanguardia” https://digitalstrategy.ec.europa.eu/en/library/ethics-guidelinestrustworthy-ai

Duarte, E. S., Sutel de Moura, F., Pestillo de Oliveira, L. y França Garcia, L. (2023). Aspectos bioéticos del uso de sistemas de inteligencia artificial en el campo de la salud: un estudio exploratorio. Revista de Bioética y Derecho, 57, 263-285. https://doi.org/10.1344/rbd2023.57.35146

de Asis Puido, M. (2023). Ética de la Inteligencia Artificial jurídica aplicada al proceso. Cuadernos Electrónicos de Filosofía del Derecho, 48, 60-79.

de Lecuona, I. (2020). Aspectos éticos, legales y sociales del uso de la inteligencia artificial y el Big Data en salud en un contexto de pandemia. Revista internacional de pensamiento político, 15, 139-166. https://doi.org/10.46661/revintpensampolit.5599

España. Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPD-GDD).

Ester Sánchez, A. T. (2023). El desafío de la Inteligencia Artificial a la vigencia de los derechos fundamentales. Cuadernos Electrónicos de Filosofía del Derecho. https://accedacris.ulpgc.es/bitstream/10553/123206/1/document.pdf

Ferrajoli, L. (2001). Derecho y razón. Teoría del garantismo penal, Madrid: Trotta.

Hohfeld, W. N. (1991). Conceptos jurídicos fundamentales. México: Fontamara.

Joison, A. N., Barcudi, R. J., Majul, E. A., Ruffino, S. A., De Mateo Rey, J. J., Joison, A. M. y Baiardi, G. (2021). La inteligencia artificial en la educación médica y la predicción en salud. Método Investigación Aplicada a las Ciencias Biológicas, 6(1).

Lazcoz Moratinos, G., Urda Martínez, A., de Miguel Beriain, I., Martín López, M., Alonso Martínez, M. y Alfonso Farnós, I. (2024). Evaluación de estudios con inteligencia artificial por un comité de ética de la investigación. Boletín ANCEI.

Martínez Jiménez, F. J. (2023). Inteligencia artificial y ética: hacia una aplicación de los principios éticos en el ámbito de la UE. Cuadernos Europeos de Deusto, 68, 89-115.

Monasterio Astobiza, A. (2017). Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata, 24, 185-217. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000107

Organización Mundial de la Salud (2021). Ética y gobernanza de la inteligencia artificial en el ámbito de la salud: orientaciones de la OMS.

Ortiz Fernández, M. (2020). Reflexiones acerca de la responsabilidad civil derivada del uso de la inteligencia artificial: Los “Principios” de la Unión Europea. ULP Law Review-Revista de Direito da ULP, 14(1), 55-55.

Rosillo Martínez, A. (2013). La fundamentación de derechos humanos desde América Latina, México. Ïtaca.

Tomás Mallén, B. (2022). Derechos fundamentales y drittwirkung en perspectiva multinivel: desarrollos recientes en el derecho europeo. Revista de Derecho Político, 115, 207-235. https://doi.org/10.5944/rdp.115.2022.36335

Téllez Carvajal, E. (2021). Derechos humanos, ética y transparencia algorítmica. Ius et Scientia, 7(1), 370-386. https://dx.doi.org/10.12795/IESTSCIENTIA.2021.i01.19

Sánchez, J. B. (2022). Pasado, presente y futuro de la normativa aplicable a la inteligencia artificial en la unión europea: Informes, directrices y propuestas normativas. Revista LEX MERCATORIA Doctrina, Praxis, Jurisprudencia y Legislación, 113-120.

Siurana Aparisi, J. C. (2010). Los principios de la bioética y el surgimiento de una bioética intercultural. Veritas, 22, 121-157.

Unión Europea. Reglamento (UE) 2016/679 General de Protección de Datos (RGPD).

Unión Europea. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). «DOUE» núm. 1689, de 12 de julio de 2024. Referencia: DOUE-L-2024-81079

Unión Europea. Carta de los derechos fundamentales de la unión europea. (DO C 202 de 7.6.2016, 389-405).

Vivas Tesón, I. (2021). Derecho contractual antidiscriminatorio: drittwirkung y libertad negocial. CUADERNOS DE DERECHO TRANSNACIONAL, 13(1), 672-692. https://doi.org/10.20318/cdt.2021.5976