Implicaciones bioéticas y psicopolíticas de la inteligencia artificial para los derechos humanos

Autores/as

DOI:

https://doi.org/10.34024/prometeica.2024.31.19084

Palabras clave:

Inteligencia artificial, derechos humanos, bioética, psicopolítica, hermenéutica

Resumen

La inteligencia artificial invadió los ámbitos de la vida y se orienta a reconfigurar la vida misma, con impactos sobre los derechos humanos. Estas repercusiones sobre el desarrollo humano tienen, tanto detractores como defensores. El artículo se orienta establecer implicaciones bioéticas y psicopolíticas de la inteligencia artificial para los derechos humanos. El artículo se diseñó bajo el modelo PRISMA y recurrió a la hermenéutica analógica para interpretar los textos. Los resultados indican beneficios, amenazas y oportunidades para las libertades fundamentales y los derechos a la equidad, identidad, autodeterminación, autonomía, privacidad y bienestar. Las conclusiones refieren la integración de dispositivos, datos y algoritmos, que impactan los derechos humanos y plantean la necesidad de reflexionar sobre su recreación, reformulación o reconfiguración.

Métricas

Cargando métricas ...

Biografía del autor/a

  • Hernando Barrios-Tao, Universidad Militar Nueva Granada

    Ph. D. en Teología por la Pontificia Universidad Javeriana (Bogotá-Colombia), Magíster en Teología por la Pontificia Universidad Gregoriana (Roma-Italia), Licenciado en Teología y con estudios de filosofía y experiencia académica e investigativa en las áreas de las humanidades, la educación, la bioética, la exégesis y la hermenéutica.

    Profesor Titular en la Facultad de Educación y Humanidades de la Universidad Militar Nueva Granada (Bogotá-Colombia). Investigador Senior del Ministerio de Ciencia, tecnología e innovación en Colombia y miembro activo de los Grupos de Investigación Liderazgo y Humanitas con categoría A en Colombia.

Referencias

Aguirre, A. y Manasía, N. (2015). Derechos humanos de cuarta generación: inclusión social y democratización del conocimiento. Télématique, 14(1), 2-16.

Andersen, L. (2021). Human Rights in the Age of Artificial Intelligence. Access Now. LAGJS/Essay/DS (E074): 1-40. https://www.jussemper.org/Resources/Democracy%20Best%20Practices/humanrightsintheageofartif.html 10 01 2023

Aoun, J. (2017). Robot-Proof. Higher Education in the Age of Artificial Intelligence. MIT Press.

Arbulo, J. I., Bruna, O. y Wilkins, A. (2018). Hacia la cuarta generación de Derechos humanos: ciberespacio, libertad y responsabilidad digital. XVII Jornadas de Investigación de la Facultad de Ciencias Sociales – UdelaR. A 70 años de la Declaración universal de Derechos Humanos.

Baker, T., & Smith, L. (2019). Educ-AI-tion rebooted? Exploring the future of artificial intelligence in schools and colleges. London: Nesta.

Bakiner, O. (2023). The promises and challenges of addressing artificial intelligence with human rights. Big Data & Society, 10(2), ¬1-13. https://doi.org/10.1177/20539517231205476

Barrio, A. (2021). Génesis y desarrollo de los derechos digitales. Revista de las Cortes Generales, 110, 197-233. https://doi.org/10.33426/rcg/2021/110/1572

Barrios-Tao, H., y Díaz, V. (2024). Inteligencia artificial y emociones: Psicopolítica mediante datos y algoritmos (2015-2022). Revista de Ciencias Sociales, XXX(1), 251-267.

Barrios-Tao, H., Díaz, V. y Guerra, Y. (2020). Subjetividades e inteligencia artificial: desafíos para ‘lo humano’. Veritas, 47(4), 81-107. https://dx.doi.org/10.4067/S0718-92732020000300081

Beever, J., & Taylor, L. (2022). Bioethics of public commenting: Manipulation, data risk, and public participation in E‐Rulemaking. Bioethics, 36, 18-24. https://doi.org/10.1111/bioe.12941

Beuchot, M. (2016). Hechos e interpretaciones. Hacia una hermenéutica analógica. México: FCE.

Borbón, D., Borbón, L. y Laverde, J. (2020). Análisis crítico de los NeuroDerechos Humanos al libre albedrío y al acceso equitativo a tecnologías de mejora. Ius et Scientia, 6(2), 135-161. https://doi.org/10.12795/IETSCIENTIA.2020.i02.10

Cardon, D. (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.

Castelblanco, W. (2021). Algoritmos que discriminan: Derechos Humanos e Inteligencia Artificial. Trabajo de Maestría. Universidad Católica de Colombia.

Castellanos, J. (2019). La democracia algorítmica: inteligencia artificial, democracia y participación política. Revista General de Derecho Administrativo, 50, 1-32.

Castellanos, J. (2018). Transhumanismo, algoritmos y nuevas tecnologías: avanzando en la desigualdad. IUS ET SCIENTIA, 4(2), 120-131.

Colmenarejo, R. (2018). Ética aplicada a la gestión de datos masivos. Anales de la Cátedra Francisco Suárez, 52, 113-129.

Comisión Europea (2020). Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza. COM (2020) 65. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf

Comisión Europea (2018). Algorithms and Human Rights. Study on the human rights dimensions of automated data processing techniques and possible regulatory implications. DGI (2017) 12. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Cotino, L. (2019). Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo, 50, 1-37.

Cova-Fernández, E. (2022). Derechos Humanos y Derechos Digitales en la Sociedad de la Información. Revista DH/ED: derechos humanos y educación, 1(6), 61-80.

Cruz, M. (2017). De la biopolítica a la psicopolítica en el pensamiento social de Byung-Chul Han. Athenea Digital, 17(1), 187-203. https://doi.org/10.5565/rev/athenea.1782

De Asís, R. (2020). Inteligencia artificial y derechos humanos. Madrid: Universidad Carlos III.

De La Quadra-Salcedo, T. (2018). Retos, riesgos y oportunidades de la sociedad digital. En De la Quadra-Salcedo, T. y Piñar, J. (dir.), Sociedad digital y Derecho (pp. 21-85). Madrid: Boletín Oficial del Estado.

Donahoe, E., & Metzger, M. (2019). Artificial intelligence and human rights. Journal of Democracy, 30(2), 115-126. https://doi.org/10.1353/jod.2019.0029

Echeverría, J. (2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html

Espinosa, L. (2018). La mano y el algoritmo. Una antropología compleja ante los desafíos tecnológicos del presente. Araucaria, 20(40), 109-136. https://doi.org/10.12795/araucaria.2018.i40.05

Faralli, C. (2015). Protección de los derechos y las nuevas tecnologías. El caso de la genética en el ámbito de los derechos de la era tecnológica. Opción, 31(76), 15-39.

Feldman, Z., & Sandoval, M. (2018). Metric power and the academic self: Neoliberalism, knowledge and resistance in the British university. TripleC, 16(1), 214-233. https://doi.org/10.31269/triplec.v16i1.899

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, Ch., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People –An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5

Foucault, M. (2009). El yo minimalista y otras conversaciones. Buenos Aires: La marca editora.

Galparsoro, J. y Pérez, R. (2018). Revolución digital y psicopolítica. Algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO: Revista de Filosofía, 14, 251-275. https://doi.org/10.46583/scio_2018.14.493

García-Sedano, M. (2022). Sobre la autonomía, la creatividad y las consideraciones éticas de la inteligencia artificial en el arte contemporáneo. H-ART. Revista de historia, teoría y crítica de arte, 12, 17-40.

García-Gutiérrez, J. (2017). ¿Cómo mejorar al ser humano? Un análisis de las tecnologías convergentes desde la antropología pedagógica. Pedagogia e Vita, 75, 94-105.

Ghotbi, N. (2023). The Ethics of Emotional Artificial Intelligence: A Mixed Method Analysis. Asian Bioethics Review, 15, 417-430. https://doi.org/10.1007/s41649-022-00237-y

Gobierno de España. Ministerio de Asuntos Económicos y Transformación Digital (2021). Carta Derechos digitales. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf

González, J., Buñuel, J. y Aparicio, R. (2011). Listas guía de comprobación de revisiones siste-máticas y metaanálisis: declaración PRISMA. Evidencias en Pediatría, 7(97), 1-6.

Guerrero, R. (2023). Derechos humanos de cuarta generación y las tecnologías de la información y de la comunicación. En Comisión Estatal de Derechos Humanos Jalisco. Derechos fundamentales a debate (pp. 137-149).

Han, B-Ch. (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.

Han, B-Ch. (2020). La desaparición de los rituales. Barcelona: Herder.

Hernández, J. R. (2020). Algoritmos y su incidencia en la conducta humana. Big data, algoritmos, decisiones y seres humanos. Universidad Autónoma de México.

Hill, R. (2016). What an algorithm is? Philosophy and Technology, 29(1), 35-59. https://doi.org/10.1007/s13347-014-0184-5

Huici, V. y Davila, A. (2016). Del Zoon Politikón al Zoon Elektronikón. Una reflexión sobre las condiciones de la sociedad a partir de Aristóteles. Política y Sociedad, 53(3), 757-772. http://dx.doi.org/10.5209/rev_POSO.2016.v53.n3.50776

Human Rights Council. (2021). Report of the United Nations High Commissioner for Human Rights: The right to privacy in the digital age (Report A/HRC/48/31). https://documents.un.org/doc/undoc/gen/g21/249/24/pdf/g2124924.pdf?token=wdLnDXMUslONT1iO1N&fe=true

Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(5).https://doi.org/10.1186/s40504-017-0050-1

Illou, E. (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.

Ishengoma, F. (2022). Artificial Intelligence in Digital Health: Issues and Dimensions of Ethical Concerns. Innovación y Software, 3(1), 81-108. https://doi.org/10.48168/innosoft.s8.a48

Ivanii, O., Kuchuk, A., & Orlova, O. (2020). Biotechnology as Factor for The Fourth Generation of Human Rights Formation. Journal of History Culture and Art Research, 9(1), 115-121. https://doi.org/10.7596/taksad.v9i1.2540

Ivanson, H., Altenhofen, B., Cannesson, M., & Canales, C. (2023). The Ethics of Big Data and Artificial Intelligence in Perioperative Medicine: Is Unregulated AI Already at the Bedside? Current Anesthesiology Reports, 13, 196-201. https://doi.org/10.1007/s40140-023-00572-2

James, Y., Rogers, W., Braunack, A., Frazer, H., Win, K., Houssami, N., Degeling, Ch., Semsarian, Ch., & Carter, S. (2023). Utopia versus dystopia: Professional perspectives on the impact of healthcare artificial intelligence on clinical roles and skills. International Journal of Medical Informatics, 169, 104903. https://doi.org/10.1016/j.ijmedinf.2022.104903

Jangwan, N., Ashraf, G., Ram, V., Singh, V., Alghamdi, B. S., Abuzenadah, A., & Singh, M. (2022). Brain augmentation and neuroscience technologies: Current applications, challenges, ethics and future prospects. Frontiers in Systems Neuroscience, 16, 1000495. https://doi.org/10.3389/fnsys.2022.1000495

Jobin, A., Ienca, M., & Vayena, E. (2019). Artificial Intelligence: the global landscape of ethics guidelines». Health Ethics & Policy Lab, ETH, 1-20.

https://doi.org/10.48550/arXiv.1906.11668

Kaplan, A., & Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62(1), 15-25. https://doi.org/10.1016/j.bushor.2018.08.004

Karabekmez, M. (2021). Data Ethics in Digital Health and Genomics. The New Bioethics, 27(4), 320-333. https://doi.org/10.1080/20502877.2021.1996965

Klavetter, E., Cruz, J., Daniels, S., Vidal, N., & Vidal, D. (2023). Historical Medical Principles Applied to the Future of Artificial Intelligence Software. Clinic Proceedings. Digital Health, 1(2), 115-119. https://doi.org/10.1016/j.mcpdig.2023.03.005

Kubanek, J., Brown, J., Ye, P., Pauly, K., Moore, T., & Newsome, W. (2020). Remote, brain region–specific control of choice behavior with ultrasonic waves. Science Advances, 6(21), 1-9.

Lane, L. (2023). Preventing long-term risks to human rights in smart cities: A critical review of responsibilities for private AI developers. Internet Policy Review, 12(1), 1-28. https://doi.org/10.14763/2023.1.1697

Larrondo, M. y Grandi, N. (2021). Inteligencia Artificial, algoritmos y libertad de expresión. Universitas, Revista de Ciencias sociales y humanas, 34, 177-194. https://doi.org/10.17163/uni.n34.2021.08

Lim, M. (2019). Governing higher education: The PURE data system and the management of the bibliometric self». Higher Education Policy, 34, 238-253. https://doi.org/10.1057/s41307-018-00130-0

Lupton, D. (2016). The diverse domains of quantified selves: self-tracking modes and dataveillance. Economy and Society, 45(1), 101-122. http://dx.doi.org/10.1080/03085147.2016.1143726

Martínez, J. (2019). Inteligencia y derechos humanos en la sociedad digital. Cuadernos Electrónicos de Filosofía del Derecho, 40, 168-189. https://doi.org/10.7203/CEFD.40.13846

Martorell, F. y Andonio, A. (2019). Asistidos por el soberano electrónico. Utopías y distopías de la inteligencia artificial. Dilemata, 11(30), 111-127.

Megías, J. (2022). Derechos humanos e inteligencia artificial. Dikaiosyne, 37, 139-163.

Morales, P. (2018). Entre el prisma discursivo y el ciberhumanismo: algunas reflexiones sobre Derechos Humanos de cuarta generación. Franciscanum, 60(169), 39-86.

Morán, A. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? IUS, 15(48), 289-323. https://doi.org/10.35487/rius.v15i48.2021.706

Nguyen, Ch. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141-161. https://doi.org/10.1017/epi.2018.32

Nunes, C., Miranda, R. y Dadalto, L. (2022). Desafíos bioéticos del uso de la inteligencia artificial en los hospitales. Revista Bioética, 30(1). http://dx.doi.org/10.1590/1983-80422022301509ES

O’neil, C. (2018). Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.

Page, M., McKenzie, J., Bossuyt, P., Shamseer, L., Tetzlaff, J., Akl, J., Brennan, S., Chou, R., Glanville, J., Grimshaw, J., Hróbjartsson, A., … Alonso, S. (2021). Declaración PRISMA 2020: una guía actualizada para la publicación de revisiones sistemáticas. Revista española de cardiología, 74(9), 790-799. https://doi.org/10.1016/j.recesp.2021.06.016

Paladino, M. (2021). Cuidado e inteligencia artificial: una reflexión necesaria. Persona y Bioética, 25(2), 1-11. https://doi.org/10.5294/pebi.2021.25.2.8

Pariser, E. (2017). El filtro burbuja. Barcelona: Penguin Random House.

Pedró, F. (dir.), (2019). Artificial Intelligence in Education: Challenges and Opportunities for Sustainable Development. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000366994

Perepolkin, S., Perepolkin, D. & Averianova, M. (2021). Typology of the fourth generation of human rights. Journal of International Legal Communication, 1(1), 91-101. https://doi.org/10.32612/uw.27201643.2021.1.

Pérez, A. (2018). Las generaciones de derechos humanos ante el desafío posthumanista. En De la Quadra-Salcedo, T. y Piñar, J. (dir.). Sociedad digital y Derecho (pp. 137-155). Madrid: Boletín Oficial del Estado.

Pérez, J., Deligianni, F., Ravi., D. & Guang, Y. (2017). Artificial Intelligence and Robotics. EPSRC UKRAS Network. https://www.ukras.org/publications/white-papers/artificial-intelligence-robotics/

Piñar, J. (2018). Identidad y persona en la sociedad digital. En De la Quadra-Salcedo, T. y Piñar, J. (dir.). Sociedad digital y Derecho (pp. 95-111). Madrid: Boletín Oficial del Estado.

Rallo, A. (2010). El derecho al olvido y su protección. Telos, 85, 104-108.

Razmetaeva, Y., Barabash, Y., & Lukianov, D. (2022). The Concept of Human Rights in the Digital Era: Changes and Consequences for Judicial Practice. Access to Justice in Eastern Europe, 3(15), 41-56. https://doi.org/10.33327/AJEE-18-5.3-a000327

Robles, M. (2020). La gobernanza de la inteligencia artificial: contexto y parámetros generales. Revista electrónica de Estudios Internacionales, 39, 1-27. https://doi.org/10.17103/reei.39.07

Saura, G. y Bolívar, A. (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. https://doi.org/10.15366/reice2019.17.4.001

Shevchuk, O., Bululukov, O., Lysodyed, O., Mamonova, V., & Matat, Y. (2021). Нuman right to virtual reality in the healthcare: legal issues and enforcement problems. Juridical Tribune, 11, 302-315. https://doi.org/10.24818/TBJ/2021/11/SP/03

Sibilia, P. (2006). El hombre postorgánico. Cuerpo, subjetividad y tecnologías digitales. Buenos Aires: FCE.

Stone, P. (dir.). (2016). Artificial Intelligence and life in 2030. Stanford University. https://ai100.stanford.edu/sites/g/files/sbiybj9861/f/ai_100_report_0831fnl.pdf

Suárez, J. (2014). El derecho al olvido, base de tutela de la intimidad: Gestión de los datos personales en la red. Telos, 97, 34-42.

Suchacka, M., Muster, R., & Wojewoda, M. (2021). Human and machine creativity: social and ethical aspects of the development of artificial intelligence. Creativity Studies, 14(2), 430-443. https://doi.org/10.3846/cs.2021.14316

Taylor, J., Harp, J., & Elliot, T. (1991). Neuropsychologists and neurolawyers. Neuropsychology, 5(4), 293-305. https://doi.org/10.1037/0894-4105.5.4.293

Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. New York: Alfred Knopf.

Toboso, M. y Aparicio, M. (2019). Entornos de funcionamientos robotizados. ¿Es posible una robótica inclusiva? Dilemata, 11(30), 171-185.

Torres, J. (2018). De generaciones a escuelas: una nueva forma de concebir a los derechos humanos. Hojas y Hablas, 16, 97-112. https://doi.org/10.29151/hojas-yhablas.n16a7

UNESCO (2019). Consenso de Beijing sobre la inteligencia artificial y la educación. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNESCO (2015). Replantear la educación: ¿Hacia un bien común mundial? https://unesdoc.unesco.org/ark:/48223/pf0000232697

UNESCO (2005). Declaración universal sobre Bioética y derechos humanos. https://unesdoc.unesco.org/ark:/48223/pf0000146180_spa?posInSet=1&queryId=eea0c6b3-c534-4cb7-aecf-f178c59c1ae1

Valdés, E. (2015). Bioderecho, daño genético y derechos humanos de cuarta generación. Boletín Mexicano de Derecho Comparado, 48(144), 1197-1228.

Van Est, R., & Gerritsen, J. (2017). Human rights in the robot age: Challenges arising from the use of robotics, artificial intelligence, and virtual and augmented reality. The Hague: The Rathenau Institute. https://www.rathenau.nl/sites/default/files/2018-02/Human%20Rights%20in%20the%20Robot%20Age-Rathenau%20Instituut-2017.pdf

Van Veen, Ch. (2018). Artificial Intelligence: What’s Human Rights Got To Do With It?» Data & Society: Points. https://medium.com/datasociety-points/artificial-intelligence-whats-human-rights-got-to-do-with-it-4622ec1566d5

Verdegay, J., Lamata, M., Pelta, D., y Cruz, C. (2021). Inteligencia artificial y problemas de decisión: la necesidad de un contexto ético. Suma de Negocios, 12(27), 104-114. https://doi.org/10.14349/sumneg/2021.V12.N27.A2

Villalba, J. (2020). Algor-ética: la ética en la inteligencia artificial. Blockchain inteligencia artificial, 1, 21-40. https://doi.org/10.24215/25916386e062

Yuste, R., Genser, J., & Herrmann, S. (2021). It’s Time for Neuro-Rights. New Human Rights for the Age of Neurotechnology. Horizons, 18, 154-164. https://www.perseus-strategies.com/wp-content/uploads/2021/03/Neuro-Rights-Horizons-Winter-2021.pdf

Zawacki, O., Marín, V., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education –Where are the educators? International Journal of Educational Technology in Higher Education, 16(39). https://doi.org/10.1186/s41239-019-0171-0

Descargas

Publicado

2024-11-29

Número

Vol. 31 (2024): Prometeica - v 31 (11/2024 - 02/2025)

Sección

Artículos

Licencia

Derechos de autor 2024 Hernando Barrios-Tao

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.

Derechos de Autor: Prometeica permite que el (los) autor (es) mantenga sus derechos de autor sin restricciones. Prometeica permite al (los) autor (es) conservar sus derechos de publicación sin restricciones. Los autores deben garantizar que el artículo es un trabajo original sin fabricación, fraude o plagio; no infringe ningún derecho de autor o derecho de propiedad de terceros. Los autores también deben garantizar que cada uno atendió a los requisitos de autoría conforme a la recomendación del ICMJE y entienden que, si el artículo o parte de él es fallido o fraudulento, cada autor comparte la responsabilidad.

Reconocimiento-NoComercial 4.0 internacional (CC BY-NC 4.0)

Prometeica - Revista de Filosofía y Ciencias es regida por la licencia CC-By-NC

Usted es libre de:

  • Adaptar — remezclar, transformar y crear a partir del material

 

El licenciador no puede revocar estas libertades mientras cumpla con los términos de la licencia.

Bajo las condiciones siguientes:

 

No hay restricciones adicionales — No puede aplicar términos legales o medidas tecnológicas que legalmente restrinjan realizar aquello que la licencia permite.

 

Mantenimiento de derechos

Prometeica permite que el (los) autor (es) mantenga sus derechos de autor sin restricciones.

Prometeica permite al (los) autor (es) conservar sus derechos de publicación sin restricciones.

Cómo citar

Barrios-Tao, H. (2024). Implicaciones bioéticas y psicopolíticas de la inteligencia artificial para los derechos humanos. Prometeica - Revista De Filosofía Y Ciencias, 31, 24-42. https://doi.org/10.34024/prometeica.2024.31.19084
Recibido 2024-07-12
Aceptado 2024-08-08
Publicado 2024-11-29