Empleo de ChatGPT en educación biomédica. Análisis de riesgos desde los principios éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial
DOI:
https://doi.org/10.14422/rib.i25.y2024.007Palavras-chave:
enseñanza-aprendizaje, inteligencia artificial generativa (IAG), ChatGPT, ética aplicadaResumo
La inteligencia artificial generativa (IAG), con aplicaciones como ChatGPT, se ha convertido en una interesante herramienta en el ámbito de la educación biomédica. Entre sus bondades destaca la simplificación y mejora del proceso enseñanza-aprendizaje, favoreciendo la búsqueda de información, la creación y actualización de contenido, la simulación de escenarios clínicos, la atención personalizada o la evaluación inmediata. Sin embargo, son muchos los riesgos que comporta una herramienta tan novedosa y disruptiva. Debido a ello, con el objetivo de evaluar estas amenazas, utilizamos los Principios Éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial, concluyendo que el principal riesgo de estas aplicaciones deriva de su potencial capacidad discriminatoria, especialmente en referencia a la evaluación y categorización de los estudiantes; también, de la aparición de diferentes sesgos técnicos, de la falta de equidad, de control, de transparencia y de privacidad, o del plagio y la falsa autoría.
Downloads
Referências
Baigi, S., Sarbaz, M., Ghaddaripouri, K., Ghaddaripouri, M., Mousavi, A. S., & Kimiafar, K. (2023). Attitudes, knowledge, and skills towards artificial intelligence among healthcare students: A systematic review. Health Sciences Report, 6(3), 1-23. https://doi.org/10.1002/hsr2.1138
Catalina, Q. M., Fuster-Casanovas, A., Vidal-Alaball, J., Escalé-Besa, A., Marin-Gómez, F., Femenia, J., & Solé-Casals, J. (2023). Knowledge and perception of primary care healthcare professionals on the use of artificial intelligence as a healthcare tool. Digital Health, 9, 20552076231180511. https://doi.org/10.1177/20552076231180511
Chan, K., & Zary, N. (2019). Applications and Challenges of Implementing Artificial Intelligence in Medical Education: Integrative Review. JMIR Medical Education, 5(1), e13930. https://doi.org/10.2196/13930
Comisión Europea. (2019, abril). Ethics Guidelines for the Trusthworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Consejo Europeo. (2022, noviembre). Reglamento de IA (2022). https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/es/pdf
Consejo Europeo. (2023, diciembre). Cronología-Inteligencia Artificial. https://www.consilium.europa.eu/es/policies/artificial-intelligence/timeline-artificial-intelligence/
Garg, R. K., Urs, V., Agarwal, A. A., Chaudhary, S. K., Paliwal, V., & Kar, S. (2023). Exploring the role of ChatGPT in patient care (diagnosis and treatment) and medical research: A systematic review. Health Promotion Perspectives, 13(3), 183-191. https://doi.org/10.34172/hpp.2023.22
Khanna, S. S., & Dhaimade, P. A. (2017). Artificial intelligence: transforming dentistry today. Indian Journal of Basic and Applied Medical Research, 6(3), 161-7.
Mayo, J. (2023). Inteligencia artificial generativa y educación médica. Educación Médica, 24(4), 1-3. https://doi.org/10.1016/j.edumed.2023.100851
McCoy, L., Nagaraj, S., Morgado, F., Harish, V., Das, S., & Celi L. A. (2020). What do medical students actually need to know about artificial intelligence? NPJ Digital Medicine, 3, 86. https://doi.org/10.1038/s41746-020-0294-7
Mehta, N., Harish, V., Bilimoria, K., Morgado, F., Ginsburg, S., Law, M., & Das, S. (2021). Knowledge and Attitudes on Artificial Intelligence in Healthcare: A Provincial Survey Study of Medical Students. MedEdPublish, 10, 75. https://doi.org/10.15694/mep.2021.000075.1
Mese, I., Taslicay, C. A., & Sivrioglu, A. K. (2023). Improving radiology workflow using ChatGPT and artificial intelligence. Clinical Imaging, 103, 109993. https://doi.org/10.1016/j.clinimag.2023.109993
Miao, F., Holmes, W., Ronghuai, H., & Hui, Z. (2021). Inteligencia Artificial y educación. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000379376
Montreal Declaration for a Responsible Development of Artificial Intelligence. (2018). Montreal University. https://montrealdeclaration-responsibleai.com/the-declaration/
Opara, E., Theresa, A. M., & Aduke, T. C. (2023). ChatGPT for Teaching, Learning and Research: Prospects and Challenges. Global academic journal of humanities and social sciences, 5(02), 33-40. https://doi.org/10.36348/gajhss.2023.v05i02.001
Parlamento Europeo. (2023, junio). Ley de IA de la Unión Europea. https://www.europarl.europa.eu/topics/es/article/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
Popel, M., Tomkova, M., Tomek, J., Kaiser, L., Uszkoreit, J., Bojar, O., & Zabokrtsky, Z. (2020). Transforming machine translation: a deep learning system reaches news translation quality comparable to human professionals. Nature Communications, 11, 4381. https://doi.org/10.1038/s41467-020-18073-9
Recomendación sobre la ética de la inteligencia artificial. (2021, noviembre). UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa/PDF/381137spa.pdf.multi
Sabzalieva, E., & Valentini, V. (2023). ChatGPT e Inteligencia Artificial en la educación superior. UNESCO. https://www.iesalc.unesco.org/wp-content/uploads/2023/04/ChatGPT-e-Inteligencia-Artificial-en-la-educacio%CC%81n-superior-Gui%CC%81a-de-inicio-ra%CC%81pido_FINAL_ESP.pdf
Sallam, M. (2023). ChatGPT Utility in Healthcare Education, Research, and Practice: Systematic Review on the Promising Perspectives and Valid Concerns. Healthcare, 11(6), 887. https://doi.org/10.3390/healthcare11060887
Sung, G., Guillain, L., & Schneider, B. (2023). Can AI help teachers write higher quality feedback? Lessons learned from using the GPT-3 engine in a makerspace course. In Proceedings of the 17th International Conference of the Learning Sciences-ICLS, pp. 2093-2094. International Society of the Learning Sciences.
Syed, W., Basil, A., & Al-Rawi, M. (2023). Assessment of Awareness, Perceptions, and Opinions towards Artificial Intelligence among Healthcare Students in Riyadh, Saudi Arabia. Medicina, 59(5), 828. https://doi.org/10.3390/medicina59050828
Teng, M., Singla, R., Yau, O., et al. (2022). Health Care Students’ Perspectives on Artificial Intelligence: Countrywide Survey in Canada. JMIR Medical Education, 8(1), e33390. https://doi.org/10.2196/33390
The Future of Life Institute (2017, agosto). Asilomar AI principles. https://futureoflife.org/open-letter/ai-principles/
Tolsgaard, M. G., Pusic, M. V., Sebok-Syer, S., Gin, B., Svendsen, M. B., Syer, M. D., Brydges, R., Cuddy, M. M., & Boscardin, C. K. (2023). The fundamentals of Artificial Intelligence in medical education research. AMEE Guide No. 156.
Topol, E. J. (2019). High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, 25(1), 44- 56. https://doi.org/10.1038/s41591-018-0300-7
Ullmann, S., & Schoop, M. (2022). Potentials of Chatbot Technologies for Higher Education: A Systematic Review. UK Academy for Information Systems Conference Proceedings. https://aisel.aisnet.org/ukais2022/11
Webster, C. (2021). Artificial intelligence and the adoption of new technology in medical education. Medical Education, 55(1), 6-7. https://doi.org/10.1111/medu.14409
Weidener, L., & Fischer, M. (2023). Teaching AI Ethics in Medical Education: A Scoping Review of Current Literature and Practices. Perspectives Medical Education, 12(1), 399-410. https://doi.org/10.5334/pme.954
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 José Miguel Biscaia Fernández, María del Rocío González-Soltero, Carlos Julio Biscaia Fernández, Rosa Belén Mohedano del Pozo, Ana Isabel Rodríguez-Learte
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Los autores de artículos aceptados en la Revista Iberoamericana de Bioética conservan los derechos de propiedad intelectual sobre sus trabajos y otorgan a la revista los permisos de distribución y comunicación pública de los mismos, consintiendo que se publiquen bajo una licencia Creative Commons Atribución-NoComercial-SinDerivadas 4.0 Internacional. Se recomienda a los autores publicar su trabajo en Internet (por ejemplo en páginas institucionales o personales, repositorios, etc.) respetando las condiciones de esta licencia y citando debidamente la fuente original.
