Bioethical and psychopolitical implications of artificial intelligence for human rights

Authors

DOI:

https://doi.org/10.34024/prometeica.2024.31.19084

Keywords:

artificial intelligence, human rights, bioethics, psychopolitics, hermeneutics

Abstract

Artificial intelligence has invaded the areas of life and is aimed at reconfiguring life itself, with impacts on human rights. These repercussions on human development have both detractors and defenders. The article aims to establish bioethical and psychopolitical implications of artificial intelligence for human rights. The article, under the PRISMA model, uses analogical hermeneutics to interpret the texts. The results indicate benefits, threats and opportunities for fundamental freedoms and the rights to equity, identity, self-determination, autonomy, privacy, and well-being. The conclusions refer to the integration of devices, data, and algorithms, which impact human rights and raise the need to reflect on their recreation, reformulation, or reconfiguration.

Metrics

Metrics Loading ...

Author Biography

  • Hernando Barrios-Tao, Universidad Militar Nueva Granada

    Ph. D. in Theology from the Pontifical University Javeriana (Bogotá-Colombia), Master in Theology from the Pontifical Gregorian University (Rome-Italy), Graduate in Theology and with studies in philosophy and academic and research experience in the areas of the humanities , education, bioethics, exegesis and hermeneutics.

    Full Professor at the Faculty of Education and Humanities of the Nueva Granada Military University (Bogotá-Colombia). Senior Researcher of the Ministry of Science, Technology and Innovation in Colombia and active member of the Leadership and Humanitas Research Groups with category A in Colombia

References

Aguirre, A. y Manasía, N. (2015). Derechos humanos de cuarta generación: inclusión social y democratización del conocimiento. Télématique, 14(1), 2-16.

Andersen, L. (2021). Human Rights in the Age of Artificial Intelligence. Access Now. LAGJS/Essay/DS (E074): 1-40. https://www.jussemper.org/Resources/Democracy%20Best%20Practices/humanrightsintheageofartif.html 10 01 2023

Aoun, J. (2017). Robot-Proof. Higher Education in the Age of Artificial Intelligence. MIT Press.

Arbulo, J. I., Bruna, O. y Wilkins, A. (2018). Hacia la cuarta generación de Derechos humanos: ciberespacio, libertad y responsabilidad digital. XVII Jornadas de Investigación de la Facultad de Ciencias Sociales – UdelaR. A 70 años de la Declaración universal de Derechos Humanos.

Baker, T., & Smith, L. (2019). Educ-AI-tion rebooted? Exploring the future of artificial intelligence in schools and colleges. London: Nesta.

Bakiner, O. (2023). The promises and challenges of addressing artificial intelligence with human rights. Big Data & Society, 10(2), ¬1-13. https://doi.org/10.1177/20539517231205476

Barrio, A. (2021). Génesis y desarrollo de los derechos digitales. Revista de las Cortes Generales, 110, 197-233. https://doi.org/10.33426/rcg/2021/110/1572

Barrios-Tao, H., y Díaz, V. (2024). Inteligencia artificial y emociones: Psicopolítica mediante datos y algoritmos (2015-2022). Revista de Ciencias Sociales, XXX(1), 251-267.

Barrios-Tao, H., Díaz, V. y Guerra, Y. (2020). Subjetividades e inteligencia artificial: desafíos para ‘lo humano’. Veritas, 47(4), 81-107. https://dx.doi.org/10.4067/S0718-92732020000300081

Beever, J., & Taylor, L. (2022). Bioethics of public commenting: Manipulation, data risk, and public participation in E‐Rulemaking. Bioethics, 36, 18-24. https://doi.org/10.1111/bioe.12941

Beuchot, M. (2016). Hechos e interpretaciones. Hacia una hermenéutica analógica. México: FCE.

Borbón, D., Borbón, L. y Laverde, J. (2020). Análisis crítico de los NeuroDerechos Humanos al libre albedrío y al acceso equitativo a tecnologías de mejora. Ius et Scientia, 6(2), 135-161. https://doi.org/10.12795/IETSCIENTIA.2020.i02.10

Cardon, D. (2018). Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.

Castelblanco, W. (2021). Algoritmos que discriminan: Derechos Humanos e Inteligencia Artificial. Trabajo de Maestría. Universidad Católica de Colombia.

Castellanos, J. (2019). La democracia algorítmica: inteligencia artificial, democracia y participación política. Revista General de Derecho Administrativo, 50, 1-32.

Castellanos, J. (2018). Transhumanismo, algoritmos y nuevas tecnologías: avanzando en la desigualdad. IUS ET SCIENTIA, 4(2), 120-131.

Colmenarejo, R. (2018). Ética aplicada a la gestión de datos masivos. Anales de la Cátedra Francisco Suárez, 52, 113-129.

Comisión Europea (2020). Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza. COM (2020) 65. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf

Comisión Europea (2018). Algorithms and Human Rights. Study on the human rights dimensions of automated data processing techniques and possible regulatory implications. DGI (2017) 12. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Cotino, L. (2019). Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo, 50, 1-37.

Cova-Fernández, E. (2022). Derechos Humanos y Derechos Digitales en la Sociedad de la Información. Revista DH/ED: derechos humanos y educación, 1(6), 61-80.

Cruz, M. (2017). De la biopolítica a la psicopolítica en el pensamiento social de Byung-Chul Han. Athenea Digital, 17(1), 187-203. https://doi.org/10.5565/rev/athenea.1782

De Asís, R. (2020). Inteligencia artificial y derechos humanos. Madrid: Universidad Carlos III.

De La Quadra-Salcedo, T. (2018). Retos, riesgos y oportunidades de la sociedad digital. En De la Quadra-Salcedo, T. y Piñar, J. (dir.), Sociedad digital y Derecho (pp. 21-85). Madrid: Boletín Oficial del Estado.

Donahoe, E., & Metzger, M. (2019). Artificial intelligence and human rights. Journal of Democracy, 30(2), 115-126. https://doi.org/10.1353/jod.2019.0029

Echeverría, J. (2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html

Espinosa, L. (2018). La mano y el algoritmo. Una antropología compleja ante los desafíos tecnológicos del presente. Araucaria, 20(40), 109-136. https://doi.org/10.12795/araucaria.2018.i40.05

Faralli, C. (2015). Protección de los derechos y las nuevas tecnologías. El caso de la genética en el ámbito de los derechos de la era tecnológica. Opción, 31(76), 15-39.

Feldman, Z., & Sandoval, M. (2018). Metric power and the academic self: Neoliberalism, knowledge and resistance in the British university. TripleC, 16(1), 214-233. https://doi.org/10.31269/triplec.v16i1.899

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, Ch., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People –An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5

Foucault, M. (2009). El yo minimalista y otras conversaciones. Buenos Aires: La marca editora.

Galparsoro, J. y Pérez, R. (2018). Revolución digital y psicopolítica. Algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO: Revista de Filosofía, 14, 251-275. https://doi.org/10.46583/scio_2018.14.493

García-Sedano, M. (2022). Sobre la autonomía, la creatividad y las consideraciones éticas de la inteligencia artificial en el arte contemporáneo. H-ART. Revista de historia, teoría y crítica de arte, 12, 17-40.

García-Gutiérrez, J. (2017). ¿Cómo mejorar al ser humano? Un análisis de las tecnologías convergentes desde la antropología pedagógica. Pedagogia e Vita, 75, 94-105.

Ghotbi, N. (2023). The Ethics of Emotional Artificial Intelligence: A Mixed Method Analysis. Asian Bioethics Review, 15, 417-430. https://doi.org/10.1007/s41649-022-00237-y

Gobierno de España. Ministerio de Asuntos Económicos y Transformación Digital (2021). Carta Derechos digitales. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf

González, J., Buñuel, J. y Aparicio, R. (2011). Listas guía de comprobación de revisiones siste-máticas y metaanálisis: declaración PRISMA. Evidencias en Pediatría, 7(97), 1-6.

Guerrero, R. (2023). Derechos humanos de cuarta generación y las tecnologías de la información y de la comunicación. En Comisión Estatal de Derechos Humanos Jalisco. Derechos fundamentales a debate (pp. 137-149).

Han, B-Ch. (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Barcelona: Herder.

Han, B-Ch. (2020). La desaparición de los rituales. Barcelona: Herder.

Hernández, J. R. (2020). Algoritmos y su incidencia en la conducta humana. Big data, algoritmos, decisiones y seres humanos. Universidad Autónoma de México.

Hill, R. (2016). What an algorithm is? Philosophy and Technology, 29(1), 35-59. https://doi.org/10.1007/s13347-014-0184-5

Huici, V. y Davila, A. (2016). Del Zoon Politikón al Zoon Elektronikón. Una reflexión sobre las condiciones de la sociedad a partir de Aristóteles. Política y Sociedad, 53(3), 757-772. http://dx.doi.org/10.5209/rev_POSO.2016.v53.n3.50776

Human Rights Council. (2021). Report of the United Nations High Commissioner for Human Rights: The right to privacy in the digital age (Report A/HRC/48/31). https://documents.un.org/doc/undoc/gen/g21/249/24/pdf/g2124924.pdf?token=wdLnDXMUslONT1iO1N&fe=true

Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(5).https://doi.org/10.1186/s40504-017-0050-1

Illou, E. (2007). Intimidades congeladas. Las emociones en el capitalismo. Madrid: Katz.

Ishengoma, F. (2022). Artificial Intelligence in Digital Health: Issues and Dimensions of Ethical Concerns. Innovación y Software, 3(1), 81-108. https://doi.org/10.48168/innosoft.s8.a48

Ivanii, O., Kuchuk, A., & Orlova, O. (2020). Biotechnology as Factor for The Fourth Generation of Human Rights Formation. Journal of History Culture and Art Research, 9(1), 115-121. https://doi.org/10.7596/taksad.v9i1.2540

Ivanson, H., Altenhofen, B., Cannesson, M., & Canales, C. (2023). The Ethics of Big Data and Artificial Intelligence in Perioperative Medicine: Is Unregulated AI Already at the Bedside? Current Anesthesiology Reports, 13, 196-201. https://doi.org/10.1007/s40140-023-00572-2

James, Y., Rogers, W., Braunack, A., Frazer, H., Win, K., Houssami, N., Degeling, Ch., Semsarian, Ch., & Carter, S. (2023). Utopia versus dystopia: Professional perspectives on the impact of healthcare artificial intelligence on clinical roles and skills. International Journal of Medical Informatics, 169, 104903. https://doi.org/10.1016/j.ijmedinf.2022.104903

Jangwan, N., Ashraf, G., Ram, V., Singh, V., Alghamdi, B. S., Abuzenadah, A., & Singh, M. (2022). Brain augmentation and neuroscience technologies: Current applications, challenges, ethics and future prospects. Frontiers in Systems Neuroscience, 16, 1000495. https://doi.org/10.3389/fnsys.2022.1000495

Jobin, A., Ienca, M., & Vayena, E. (2019). Artificial Intelligence: the global landscape of ethics guidelines». Health Ethics & Policy Lab, ETH, 1-20.

https://doi.org/10.48550/arXiv.1906.11668

Kaplan, A., & Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62(1), 15-25. https://doi.org/10.1016/j.bushor.2018.08.004

Karabekmez, M. (2021). Data Ethics in Digital Health and Genomics. The New Bioethics, 27(4), 320-333. https://doi.org/10.1080/20502877.2021.1996965

Klavetter, E., Cruz, J., Daniels, S., Vidal, N., & Vidal, D. (2023). Historical Medical Principles Applied to the Future of Artificial Intelligence Software. Clinic Proceedings. Digital Health, 1(2), 115-119. https://doi.org/10.1016/j.mcpdig.2023.03.005

Kubanek, J., Brown, J., Ye, P., Pauly, K., Moore, T., & Newsome, W. (2020). Remote, brain region–specific control of choice behavior with ultrasonic waves. Science Advances, 6(21), 1-9.

Lane, L. (2023). Preventing long-term risks to human rights in smart cities: A critical review of responsibilities for private AI developers. Internet Policy Review, 12(1), 1-28. https://doi.org/10.14763/2023.1.1697

Larrondo, M. y Grandi, N. (2021). Inteligencia Artificial, algoritmos y libertad de expresión. Universitas, Revista de Ciencias sociales y humanas, 34, 177-194. https://doi.org/10.17163/uni.n34.2021.08

Lim, M. (2019). Governing higher education: The PURE data system and the management of the bibliometric self». Higher Education Policy, 34, 238-253. https://doi.org/10.1057/s41307-018-00130-0

Lupton, D. (2016). The diverse domains of quantified selves: self-tracking modes and dataveillance. Economy and Society, 45(1), 101-122. http://dx.doi.org/10.1080/03085147.2016.1143726

Martínez, J. (2019). Inteligencia y derechos humanos en la sociedad digital. Cuadernos Electrónicos de Filosofía del Derecho, 40, 168-189. https://doi.org/10.7203/CEFD.40.13846

Martorell, F. y Andonio, A. (2019). Asistidos por el soberano electrónico. Utopías y distopías de la inteligencia artificial. Dilemata, 11(30), 111-127.

Megías, J. (2022). Derechos humanos e inteligencia artificial. Dikaiosyne, 37, 139-163.

Morales, P. (2018). Entre el prisma discursivo y el ciberhumanismo: algunas reflexiones sobre Derechos Humanos de cuarta generación. Franciscanum, 60(169), 39-86.

Morán, A. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? IUS, 15(48), 289-323. https://doi.org/10.35487/rius.v15i48.2021.706

Nguyen, Ch. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141-161. https://doi.org/10.1017/epi.2018.32

Nunes, C., Miranda, R. y Dadalto, L. (2022). Desafíos bioéticos del uso de la inteligencia artificial en los hospitales. Revista Bioética, 30(1). http://dx.doi.org/10.1590/1983-80422022301509ES

O’neil, C. (2018). Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.

Page, M., McKenzie, J., Bossuyt, P., Shamseer, L., Tetzlaff, J., Akl, J., Brennan, S., Chou, R., Glanville, J., Grimshaw, J., Hróbjartsson, A., … Alonso, S. (2021). Declaración PRISMA 2020: una guía actualizada para la publicación de revisiones sistemáticas. Revista española de cardiología, 74(9), 790-799. https://doi.org/10.1016/j.recesp.2021.06.016

Paladino, M. (2021). Cuidado e inteligencia artificial: una reflexión necesaria. Persona y Bioética, 25(2), 1-11. https://doi.org/10.5294/pebi.2021.25.2.8

Pariser, E. (2017). El filtro burbuja. Barcelona: Penguin Random House.

Pedró, F. (dir.), (2019). Artificial Intelligence in Education: Challenges and Opportunities for Sustainable Development. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000366994

Perepolkin, S., Perepolkin, D. & Averianova, M. (2021). Typology of the fourth generation of human rights. Journal of International Legal Communication, 1(1), 91-101. https://doi.org/10.32612/uw.27201643.2021.1.

Pérez, A. (2018). Las generaciones de derechos humanos ante el desafío posthumanista. En De la Quadra-Salcedo, T. y Piñar, J. (dir.). Sociedad digital y Derecho (pp. 137-155). Madrid: Boletín Oficial del Estado.

Pérez, J., Deligianni, F., Ravi., D. & Guang, Y. (2017). Artificial Intelligence and Robotics. EPSRC UKRAS Network. https://www.ukras.org/publications/white-papers/artificial-intelligence-robotics/

Piñar, J. (2018). Identidad y persona en la sociedad digital. En De la Quadra-Salcedo, T. y Piñar, J. (dir.). Sociedad digital y Derecho (pp. 95-111). Madrid: Boletín Oficial del Estado.

Rallo, A. (2010). El derecho al olvido y su protección. Telos, 85, 104-108.

Razmetaeva, Y., Barabash, Y., & Lukianov, D. (2022). The Concept of Human Rights in the Digital Era: Changes and Consequences for Judicial Practice. Access to Justice in Eastern Europe, 3(15), 41-56. https://doi.org/10.33327/AJEE-18-5.3-a000327

Robles, M. (2020). La gobernanza de la inteligencia artificial: contexto y parámetros generales. Revista electrónica de Estudios Internacionales, 39, 1-27. https://doi.org/10.17103/reei.39.07

Saura, G. y Bolívar, A. (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. https://doi.org/10.15366/reice2019.17.4.001

Shevchuk, O., Bululukov, O., Lysodyed, O., Mamonova, V., & Matat, Y. (2021). Нuman right to virtual reality in the healthcare: legal issues and enforcement problems. Juridical Tribune, 11, 302-315. https://doi.org/10.24818/TBJ/2021/11/SP/03

Sibilia, P. (2006). El hombre postorgánico. Cuerpo, subjetividad y tecnologías digitales. Buenos Aires: FCE.

Stone, P. (dir.). (2016). Artificial Intelligence and life in 2030. Stanford University. https://ai100.stanford.edu/sites/g/files/sbiybj9861/f/ai_100_report_0831fnl.pdf

Suárez, J. (2014). El derecho al olvido, base de tutela de la intimidad: Gestión de los datos personales en la red. Telos, 97, 34-42.

Suchacka, M., Muster, R., & Wojewoda, M. (2021). Human and machine creativity: social and ethical aspects of the development of artificial intelligence. Creativity Studies, 14(2), 430-443. https://doi.org/10.3846/cs.2021.14316

Taylor, J., Harp, J., & Elliot, T. (1991). Neuropsychologists and neurolawyers. Neuropsychology, 5(4), 293-305. https://doi.org/10.1037/0894-4105.5.4.293

Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. New York: Alfred Knopf.

Toboso, M. y Aparicio, M. (2019). Entornos de funcionamientos robotizados. ¿Es posible una robótica inclusiva? Dilemata, 11(30), 171-185.

Torres, J. (2018). De generaciones a escuelas: una nueva forma de concebir a los derechos humanos. Hojas y Hablas, 16, 97-112. https://doi.org/10.29151/hojas-yhablas.n16a7

UNESCO (2019). Consenso de Beijing sobre la inteligencia artificial y la educación. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNESCO (2015). Replantear la educación: ¿Hacia un bien común mundial? https://unesdoc.unesco.org/ark:/48223/pf0000232697

UNESCO (2005). Declaración universal sobre Bioética y derechos humanos. https://unesdoc.unesco.org/ark:/48223/pf0000146180_spa?posInSet=1&queryId=eea0c6b3-c534-4cb7-aecf-f178c59c1ae1

Valdés, E. (2015). Bioderecho, daño genético y derechos humanos de cuarta generación. Boletín Mexicano de Derecho Comparado, 48(144), 1197-1228.

Van Est, R., & Gerritsen, J. (2017). Human rights in the robot age: Challenges arising from the use of robotics, artificial intelligence, and virtual and augmented reality. The Hague: The Rathenau Institute. https://www.rathenau.nl/sites/default/files/2018-02/Human%20Rights%20in%20the%20Robot%20Age-Rathenau%20Instituut-2017.pdf

Van Veen, Ch. (2018). Artificial Intelligence: What’s Human Rights Got To Do With It?» Data & Society: Points. https://medium.com/datasociety-points/artificial-intelligence-whats-human-rights-got-to-do-with-it-4622ec1566d5

Verdegay, J., Lamata, M., Pelta, D., y Cruz, C. (2021). Inteligencia artificial y problemas de decisión: la necesidad de un contexto ético. Suma de Negocios, 12(27), 104-114. https://doi.org/10.14349/sumneg/2021.V12.N27.A2

Villalba, J. (2020). Algor-ética: la ética en la inteligencia artificial. Blockchain inteligencia artificial, 1, 21-40. https://doi.org/10.24215/25916386e062

Yuste, R., Genser, J., & Herrmann, S. (2021). It’s Time for Neuro-Rights. New Human Rights for the Age of Neurotechnology. Horizons, 18, 154-164. https://www.perseus-strategies.com/wp-content/uploads/2021/03/Neuro-Rights-Horizons-Winter-2021.pdf

Zawacki, O., Marín, V., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education –Where are the educators? International Journal of Educational Technology in Higher Education, 16(39). https://doi.org/10.1186/s41239-019-0171-0

Downloads

Published

2024-11-29

Issue

Vol. 31 (2024): Prometeica - v 31 (11/2024 - 02/2025)

Section

Articles

License

Copyright (c) 2024 Hernando Barrios-Tao

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.

Copyright: Prometeica allows the author (s) to keep their copyrights unrestricted. Prometeica allows the author (s) to retain their publication rights without restriction. Authors should ensure that the article is an original work without fabrication, fraud or plagiarism; does not infringe any copyright or right of ownership of any third party. Authors should also ensure that each one complies with the authorship requirements as recommended by the ICMJE and understand that if the article or part of it is flawed or fraudulent, each author shares responsibility.

Attribution-NonCommercial 4.0 International (CC BY-NC 4.0)

Prometeica - Journal of Philosophy and Sciences is governed by the licencse CC-By-NC

You are free to:

  • Adapt — remix, transform, and build upon the material

The licensor cannot revoke these freedoms as long as you follow the license terms.

Under the following terms:

No additional restrictions — You may not apply legal terms or technological measures that legally restrict others from doing anything the license permits.

 

Copyright maintenance

Prometeica allows the author (s) to keep their copyright without restrictions.

Prometeica allows the author (s) to retain their publication rights without restriction.

How to Cite

Barrios-Tao, H. (2024). Bioethical and psychopolitical implications of artificial intelligence for human rights. Prometeica - Journal of Philosophy and Science, 31, 24-42. https://doi.org/10.34024/prometeica.2024.31.19084
Received 2024-07-12
Accepted 2024-08-08
Published 2024-11-29