Introducción
Hace aproximadamente 2,5 millones de años seres parecidos a los humanos modernos aparecieron. “No había nada de especial en ellos”, en aquel momento, no “tenían ningún atisbo de que sus descendientes caminarían un día sobre la Luna, dividirían el átomo, desentrañarían el código genético y escribirían libros de historia”. Un episodio nuclear se dio entre 3500 y 3000 a.C., cuando los sumerios, al sur de Mesopotamia, “inventaron un sistema para almacenar y procesar información fuera de su cerebro”. Se trataba de la escritura que, además de permitir recopilar grandes cantidades de datos matemáticos, posibilitaba liberar distintas funciones de las carencias atribuibles al cerebro humano (Harari, 2020, pp. 15-16 y 141).
Bastantes generaciones tuvieron que pasar, primordialmente, luego de la segunda mitad del siglo XVIII, mediadas por lo manual, mecanizado, electrificado y automatizado, para vislumbrar el auge del conocimiento informático. Con el advenimiento de la Cuarta Revolución Industrial (4RI), en el siglo XXI, se hacen plausibles avances sin igual. Las tecnologías disruptivas se encaminan a hacer converger diversos sistemas, entre ellos, los de carácter biológico, físico y digital (Schwab, 2016). No obstante, tal confluencia, al involucrar a los seres humanos, requiere atender las repercusiones que puedan desencadenarse debido “a una suerte de estimulación artificial” (Sadin, 2020, p. 32). A la par de oportunidades y adelantos de gran escala circulan desafíos imperantes.
Si se retoma la distinción original de Turing de los años treinta del siglo XX entre intuición (la mente) e ingenio (la máquina), las facultades humanas continúan excediendo la capacidad de poder mecanizarse y transferirse. La intuición, como factor externo, se suministra por el diseñador y no se halla de facto en los ordenadores. Gödel (1931) ya había demostrado que en sistemas formales como el matemático e informático hay límites por incompletitud. Y, pese a que, en 1950, Turing cambiara de parecer en defensa de las máquinas intuitivas: ¿por qué no?, a la fecha el ingenio aún no ha podido sobrepasar sus linderos restrictivos con suficiencia. Mejor dicho, la inteligencia general, no débil, que exhiben los humanos no se debe a la ejecución de algoritmos en la cabeza, sino a la totalidad del escenario cultural, histórico y social desde el que se piensa y actúa (Larson, 2022).
La inteligencia artificial (IA), como expresión de máquinas cada vez más inteligentes, hace imprescindible que el ser humano valore cómo asumir transiciones e implicaciones inminentes sin
comprometerse a sí mismo y a su entorno. En rigor, el propósito que aquí se persigue es doble, por un lado, contextualizar la IA en la órbita de la 4RI. Y, por otra parte, examinar posiciones sobre las divergencias entre máquinas y humanos en perspectiva bioética. Al respecto, se sostiene que, si bien a partir de sus orígenes, actualmente y en los años venideros la IA ha ayudado, ayuda y ayudará en un sinfín de actividades e inclusive, con su despliegue, facilitará las tareas en muchos ámbitos de la vida y abrirá puertas inéditas; la bioética, también puede convertirse en un discurso y medio de autocontrol ante la posible subordinación derivada de la inventiva humana.
De esta manera, con el ánimo de llevar a cabo lo enunciado: para empezar, se sitúa la IA en el marco de las megatendencias de la 4RI, interrogándose: ¿en qué está inmersa la humanidad? En seguida, se descubren divergencias entre máquinas y humanos, preguntándose: ¿cuál es el rol de la bioética? Por último, se emite un conjunto de consideraciones finales.
La IA en el marco de las megatendencias de la 4RI: ¿en qué está inmersa la humanidad?
Esta sección se divide en dos componentes: con el primero, se elabora un breve recuento acerca del surgimiento de la IA y su evolución, proporciona una imagen de cómo lo “artificial” se encarrila a adquirir y rebasar propiedades de lo “humano”. Con el segundo, se busca vincular la IA como megatendencia de la 4RI. Este recorrido es indispensable para, en lo sucesivo, mostrar los caminos y retos que se pueden configurar.
IA como transformación
Hay pluralidad de acepciones sobre qué entender por IA, sin embargo, algunas tendencias la asocian con la idea de que lo informático pueda llegar a ejecutar facultades que concibe la mente humana. Sirva para ilustrar, de un lado, la IA “como una ciencia que tiene como objetivo el diseño y construcción de máquinas capaces de imitar el comportamiento inteligente de las personas” (Álvarez, 1994, p. 19) o, por otra parte, la IA como “la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano” (Rouhiainen, 2019, p. 17). En tal dirección, los ordenadores ya no se reducen a meras herramientas de servicio, por el contrario, se erigen como instrumentos distintivos de la realidad.
Un antecedente, a modo de predicción de IA, se atribuye a Ada Lovelace quien en la década de 1840 tuvo un interés tecnológico. La máquina analítica diseñada por Charles Babbage en 1834, para la época, equiparable a la computadora numérica polivalente. A esto se suma el reconocimiento del potencial de la máquina para procesar símbolos de diversas materias, al tiempo que se describieron varios fundamentos de la programación moderna, aunque como revelaciones incompletas. Para 1936, Turing y su “máquina universal”, plasmó un sistema matemático e imaginario encargado de descifrar códigos binarios por “1” y “0”, “verdadero” o “falso”. En 1950, ante la inquietud: “¿pueden pensar las máquinas?”, con el “test de Turing” como “juego de imitación” y el concepto de “máquinas-niño” o infantiles, se introdujo la posibilidad que un artefacto se desempeñe con inteligencia (Boden 2017; Turing, 1937; 2009).
Sin echar de menos iniciativas nodales como las proposiciones lógicas de función neuronal inhibitoria y excitatoria soportadas en la regla de “todo o nada” (McCulloch & Pitts, 1943); o la programación para jugar ajedrez con rangos continuos “de lo mejor a lo peor” con elecciones mixtas (Shannon, 1950); se tiene que, en 1956, con el encuentro promovido por John McCarthy y llevado a cabo en Dartmouth College, se encajó la IA en su terminología y orientación (Moor, 2006). Estos sucesos continuaron su recorrido y en la década de los 70’s, al proponerse el “conocimiento” como presupuesto de comportamiento inteligente, se dio cabida a sistemas expertos como los desarrollados en Stanford para medicina (v. gr. MYCIN o PUFF). Lo propio aconteció con las mejoras de las redes neuronales vinculadas a estímulos visuales producto de los trabajos de Hubel y Wiesel en 1981 (Ekmekci & Arda, 2020).
Para la década de 1990, es significativo el aporte de Berners-Lee sobre la world wide web o telaraña que se gestó desde finales de los 80’s. El internet, inicialmente fraguado en un entramado de redes (que no se contrae a los impulsos de finales de la década de los 60’s con ARPANET), se desenvolvía con mayor difusión debido al requerimiento de nuevos sistemas de distribución de información. Esta coyuntura dio cabida a accesos y a una ruta no lineal (Adell & Bellver, 1995; Campbell & Garcia, 2013). Es así que, a partir de entonces, la web incide en espacios de percepción individual y colectiva. De hecho, adentrándonos en el siglo XXI, se propende por el internet de las cosas, esto es, se aspira conectar “todas las cosas con todas las personas y, por extensión, todas las máquinas” (Joyanes, 2017, p. 25).
Los chips de la compañía Neuralink alineados con el mejoramiento humano ya están en marcha. Este sistema de interfaz cerebro-máquina tiene ciertas ventajas sobre otros modelos. El tamaño, composición y la capacidad de elegir dónde se insertan las sondas, incluso en las estructuras subcorticales, permite crear geometrías de matriz personalizadas para apuntar a regiones cerebrales específicas evitando áreas vascularizadas. Múltiples dispositivos con esta arquitectura pueden implantarse y volverse de alto rendimiento, por tanto, se daría la interacción con muchas neuronas sin una amplia reingeniería. La robótica quirúrgica lo facilita disminuyendo períodos de cirugía (Musk & Neuralink, 2019). Igualmente, es probable que las aplicaciones de IA estén cada vez más integradas a lo cognitivo, emotivo y moral (Lyreskog et al., 2023).
Un eje transversal de articulación y que aún ocasiona revuelo, ante este tipo de adelantos, es el identificar la IA en sus versiones débil (IAD) y fuerte (IAF). Mientras la IAD determina qué mecanismos con IA operan en dominios especializados (v. gr. pilotaje automático, diagnóstico de enfermedades o asistencia virtual); la IAF se relaciona con qué artefactos pueden llegar a discernir poderes causales inherentes al cerebro humano, asunto que, en principio, pareciera no tener éxito simplemente diseñando programas (con manipulación simbólica y duplicidad), pues se involucran factores ligados a la esfera humana (como los de conciencia e intencionalidad) y, por ende, es susceptible de crítica (Searle, 1980).
La IA fuerte implicaría que un ordenador convenientemente programado no simula una mente, sino que es una mente y por consiguiente debería ser capaz de pensar igual que un ser humano. Searle intenta demostrar que la IA fuerte es imposible […] La IA débil consistiría, según Searle, en construir programas que ayudan al ser humano en sus actividades mentales en lugar de duplicarlas […] Todos los avances logrados hasta ahora en el campo de la IA son manifestaciones de la IA débil. (López de Mántaras & Meseguer, 2017, pp. 10-11)
Esta clasificación anima el debate en cuanto, para un sector de la doctrina, la investigación en IA se encamina a conseguir una “inteligencia artificial general” (IAG) de linaje humano, con su consecuente superación, incluido el aprendizaje. De ahí que se prefiera la acepción IAG en vez de “IA fuerte” o “IA de nivel humano” (Tegmark, 2018, pp. 72 y 322). A su turno, se comenta que “toda IA fuerte será necesariamente general, pero puede[n] haber IA generales que no sean fuertes, es decir, que simulen la capacidad de exhibir inteligencia general de la mente pero sin ser mentes” (López de Mántaras & Meseguer, 2017, pp. 10 y 145). En todo caso, se acentúa y advierte que cuando la IA se fija como pieza para la resolución de problemas se montan aplicaciones débiles, específicas, alejándose de los objetivos más amplios de una IAG (Larson, 2022).
Las máquinas con IA al irse optimizando por ciclos consecutivos reúnen, progresivamente, sofisticación en los sistemas de procesamiento y acervos de información. La arqueología de los ordenadores (hardware) y los lenguajes de programación (software) hacen ostensibles desplazamientos de lo evolucionista a lo computacional (Boden, 2017; Álvarez 1994). Paralelamente la IA, como inteligencia no biológica, asume la vida como “un proceso capaz de preservar su complejidad y de replicarse”. Tal aseveración posibilita divisar tres etapas: simple y biológica o 1.0, cultural o 2.0; y tecnológica o 3.0, en esta última la IA ocupa un sitio preponderante (Tegmark, 2018, pp. 40-45) [ver figura 1]. Este tipo de fases abren, indudablemente, diversos espacios que ya no se circunscriben únicamente a las capacidades del Homo sapiens.
Figura 1. “Las tres fases de la vida”. Tomada de: Tegmark (2018, p. 41).
De cara a cuestionamientos como: ¿qué acontecerá si la IA logra alcances cognitivos sorprendentes? (Harari, 2016), habría respuestas tanto en “singularidad” (Kurzweil, 2012) como en “superinteligencia” (Bostrom, 2016). La singularidad, como evento único, presagia el momento en que las máquinas adquieren la capacidad de inteligencia humana con desarrollo exponencial, dándose una liberación y mejora de cadenas biológicas. La civilización humano-máquina superaría barreras que la trayectoria corriente está en mora y aún desconoce. Ante esa explosión tecnológica, la superinteligencia, valga enunciar, cuando la IA llegue a una escala superior a la capacidad orgánica en el desempeño cognitivo, se hará imprescindible adoptar y encauzar medidas para sobrellevar las situaciones que se desaten.
En este sendero, en el que los intelectos artificiales sustituirían lo humano, son ineludibles explicaciones fehacientes (el cómo) por el carácter preeminente que encierran las conjeturas sobre dichos aumentos e impresiones. Las predicciones sobre descubrimientos de ese calibre quizá se puedan asimilar como “una forma de complacencia” o satisfacción. “No toda la mitología sobre la IA es mala. Esta mantiene con vida el anhelo arquetípico por crear vida e inteligencia, y puede abrir ventanas hacia la comprensión de nosotros mismos […] Dados los objetivos (o miedos) manifiestos de crear en efecto a un nuevo superser, eso resulta asombroso”. En estos tiempos iría bien tener un Einstein o dos. ¿Qué tal un Turing? (Larson, 2022, pp. 90 y 325).
Los acontecimientos históricos, evidentemente, dan cuenta que el ser humano acude a la inventiva para satisfacer sus exigencias, sirviéndose de sus atribuciones y habilidades. Elabora herramientas, desenvuelve prácticas y se las arregla, a lo largo de los siglos, para dilucidar lo que no es de su pericia o dominio. Su cuerpo y capacidades mentales, preeminentes en conjunto y en comparación a otros animales, se sujetan y ponen a prueba por las transformaciones en las que se encuadra la IA. La serie de instrucciones informáticas inducen el incremento de “perfecciones automáticas”, como nunca antes, con variedad de proyecciones. La infoesfera posibilita contemplar terrenos cautivadores y deslumbrantes, aunque, al día de hoy, todavía sean parciales y continúen siendo indescifrables en su magnitud.
IA como megatendencia de la 4RI
El término “revolución” alude a un cambio abrupto y radical que puede tardar en ocurrir. Los episodios sobre los cuales se asienta y marca la 4RI han tenido la pretensión de variar la humanidad. Con la 4RI, en la que el conocimiento es central, se da una conexión continúa dada la gran cantidad de información de acceso constante que ancla a los actores, humanos y no humanos. Ya no se trata de flujos pasivos de “producción hecha” (tangible), sino de flujos activos de “producción por hacer” compuestos por algoritmos, aplicaciones y datos crecientes. De esta manera, las máquinas autodidactas se conciben como los “nuevos tótems” de las conversiones sociales, científicas y políticas (Bianchi, 2020; Schwab, 2016).
Bajo este entendido, las tecnologías basadas en IA se utilizan con frecuencia y trascienden en diferentes sectores. Se hacen presentes en campos como: salud, educación, hogar, transporte o finanzas, por citar algunos. Aquí, la alfabetización digital y comprender la IA en el marco de la 4RI es indispensable. Desarrollar este tipo de habilidades contribuye a que las personas puedan solventar sus quehaceres con prontitud y atiendan sus compromisos acortando distancias. Mejor dicho, captar “cómo funciona la IA y sus implicaciones […] es, al menos, tan importante como aprender a leer y escribir […] esto significa que la IA es el elemento decisivo de esta era” (Rouhiainen, 2019, pp. 33 y 38).
Uno de los puntos focales de la 4RI es la “industria 4.0” germinada en Alemania en el año 2011, en la edición de Hannover, como respuesta a una estrategia de alta tecnología y posicionamiento teutón. El modelo se afianza tras la publicación de los informes de la Academia Nacional de Ciencias e Ingeniería (Acatech), especialmente en 2013. Las “fabricas inteligentes” engloban un cúmulo de tecnologías como los sistemas ciberfísicos, el internet de las cosas y los servicios. Los objetos, máquinas, líneas de montaje y cadenas se unen en red. Según estimaciones, para el año 2030, Alemania incursionaría en el sistema de la industria del internet. Este suceso que, de entrada, enlaza con Estados desarrollados (v. gr. EE.UU. o China), va expandiéndose a otros países en procura de una modernización gradual (Pozdnyakova et al., 2019; Bartodziej, 2017).
Ahora bien, como se ha venido enfatizando por los autores dedicados a esta temática, el área de influencia de la 4RI no solo se limita a las “fabricas inteligentes”, a contrario sensu, es de mayor proporción. Su curso se desenvuelve por la velocidad, amplitud, profundidad e impacto. Integrar millones de personas online, mejorar la eficiencia de organizaciones, la innovación fruto de interdependencias y la armonización de distintas disciplinas lo ponen de relieve. Las sociedades hiperconectadas, colaborativas y ubicuas son un reflejo inminente. En efecto, lo manual, mecanizado, electrificado y automatizado, propio de las revoluciones precursoras, abren paso a la convergencia de sistemas biológicos, físicos y digitales (Joyanes, 2017; Xu et al., 2018).
[S]e producen oleadas […] que van desde la secuenciación genética hasta la nanotecnología, y de las energías renovables a la computación cuántica […] La secuenciación genética, por ejemplo, no podría ser posible sin los avances en la potencia de cómputo y el análisis de datos. Del mismo modo, los robots avanzados no existirían sin la inteligencia artificial, que en sí misma depende, en gran medida, de la potencia de cómputo. (Schwab, 2016, pp. 21 y 29)
Este tipo de prácticas se viabilizan y se surten con periodicidad junto a la IA. Quienes se dedican a la IA trabajan en varios tópicos, hoy en día hay un sinnúmero de dispositivos creados para varias actividades en casi todos los ámbitos de la vida, como ya se anotó. No obstante, existen tecnologías disruptivas que son nada o poco conocidas por los receptores, pero que influyen en su modo de vivir y compartir. Es probable que debido a los ritmos vertiginosos se ocasionen grados de perplejidad (Rouhiainen, 2019; Boden, 2017). Aunque todavía es complejo apreciar el radio de expansión de la 4RI, lo cierto es que hay factores fehacientes que ya se imponen, directa e indirectamente, incidiendo en lo humano.
A “nivel físico” se enlistan los vehículos que se conducen solos como automóviles, aviones o drones; y la robótica adaptable y flexible que reproduce la naturaleza (v. gr. biomimética). A “nivel biológico”, están la activación o modificación genética, la biología sintética por conducto de la configuración del ADN y los consecuentes tratamientos de enfermedades, una ingeniería genética de eficacia, bioimpresión y neurotecnología. Y, a “nivel digital”, se enuncian las plataformas multiservicios (v. gr. Uber, Airbnb, Alibaba) o por cadena de bloques (blockchain). A esto se suman asistentes virtuales como Siri de Apple que entabla escenarios de “informática ambiental” con IA (Schwab, 2016). Siri procesa el lenguaje natural para las interacciones con el usuario, haciendo reconocimiento de comandos y dictado (López de Mántaras & Meseguer, 2017).
Algo semejante sucede con Alexa en Amazon o Cortana de Microsoft. Al reconocer patrones de habla pueden suministrar respuestas, reproducir música, llamar a alguien u ordenar en la web. Si a lo doméstico se refiere iRobot diseña “robots blandos”, como Roomba, para labores de aseo. iRobot utiliza IA para que Roomba escanee el entorno y evite obstáculos que le impidan limpiar. Samsung no se queda atrás,
aparte de contar con el equivalente de Roomba como el jetbot 90 AI+, tiene mejoras. El ‘Bot Handy’ de la compañía coreana, por ejemplo, lava platos, recoge ropa o sirve vino gracias a su brazo artificial. En general, hay artefactos que son componentes de muchos hogares y sirven para ejecutar tareas que, tradicionalmente, estaban en cabeza de los seres humanos (Dodds et al., 2021).
En 2017, el mundo quedó asombrado con la presencia y alocución de Sophia en la sede de la Organización de las Naciones Unidas (ONU). En el encuentro, se expresó que las nuevas tecnologías pueden influir en los Objetivos de Desarrollo Sostenible (ODS) y beneficiar a muchas personas consiguiendo resultados con menos recursos (ONU, 2017). Este robot con IA confeccionado por la compañía Hanson Robotics, además de imitar gestos y expresiones, posee destrezas para mantener conversaciones. También se le reconoció como campeón en innovación y el Reino de Arabia Saudita le otorgó ciudadanía. De forma análoga, Atlas, de la compañía Boston Dynamics, levanta objetos, sube escalones, corre, da saltos, entre otras maniobras. Su diseño, desde un comienzo, se vincula con lograr una locomoción confiable y versátil (Kuindersma et al., 2016).
En 2023, Atlas cumplió una década de haber aparecido y lejos de sus limitantes, como la falta de equilibrio inicial, ahora ejecuta diversas actividades y acrobacias con agilidad. Por similar línea, a partir de 2022, se exhibió a Ameca, de la firma británica Engineered Arts [ver figura 2]. Ameca tiene la capacidad de dialogar, comprender idiomas y replicar comportamientos emotivos de los humanos. Posee motores y tecnología de detección de rostros, aunque su movilidad, a diferencia de Atlas, es menor. En lo sucesivo, cabe resaltar que la integración de la IA con la robótica móvil, equipada con cámaras y sensores, expande su eficacia, a saber: desempeño en entornos desconocidos, reducción de errores, sortear obstáculos, variabilidad, etc. Lo anterior unido a niveles de planificación, localización y mapeos simultáneos (Sharma et al., 2023; Cui et al., 2023).
Figura 2. Ilustraciones de “Ameca”. Tomadas de: https://www.engineeredarts.co.uk/gallery/
La tecnología informática ha posibilitado al ser humano alunizar y enviar astronaves a explorar cuerpos celestes. Las fallas en estos intentos hacen visible la “verificación”, valga decir, asegurar que el software, con relevos de IA, cumpla lo esperado. Con misiones robóticas, como variante a las tripuladas por humanos, se evita la exposición a la microgravedad y radiación. Sondas espaciales para estudiar planetas como las Voyager 1 y 2, de 1977; han dado lugar al lanzamiento de telescopios como el James Webb, en 2021. Algo parecido ocurre con el Robonaut 2 de la NASA, en 2011; y su evolución Valkyrie, creado para 2013, como antesala de viajes a Marte. En concreto, las fronteras del sistema solar se muestran más fascinantes de lo que los antepasados se imaginaron (Tegmark, 2018; Szocik & Tachibana, 2019; Kumar et al., 2020; Witze, 2022).
Las tres revoluciones experimentadas por la humanidad han traído modificaciones y repercusiones. Con el tiempo ciertos impulsos, notables en su momento, todavía se mantienen mientras que otros se desvanecen o desaparecen. ¿Qué intuir de lo inexplicable y del devenir? Privilegios, temores y retos se
actualizan con cada acontecer. Los antiguos utensilios y convivencias, el influjo precedente animal- máquina-humano o los combustibles fósiles hallan transiciones con lo virtual y la inmersión en la 4RI. La irrupción de la IA ya hace factible usar equipos que monitorean y se acoplan al cuerpo humano. El apego a los ordenadores y pantallas configuran sociedades con interlocutores que diluyen la proximidad constitutiva de nexos interpersonales. Lo no orgánico realiza acciones con optimización y, en seguida, se alza la travesía sideral.
Divergencias entre máquinas y humanos: ¿cuál es el rol de la bioética?
Esta sección se estructura de la siguiente forma: inicialmente, se elabora un diálogo de enfoques que exteriorizan diferentes puntos de vista sobre las dicotomías que se forjan en la dualidad humano- máquina. Posteriormente, se evidencia que la bioética, como sitio de encuentro, desempeña un papel crucial ante los progresos técnico-científicos, como los derivados de la IA en el marco de la 4RI.
Posturas frente a las promesas de la IA
Homo sapiens tras miles de años de evolución ahora rige el planeta buscando ascender a Homo Deus, pretende convertirse en un prototipo superior. Las rutas de los humanos hacia deidades, sustituyendo la selección natural por el diseño, se pueden plantear por varias vías, como lo son: ingeniería biológica, ingeniería de cíborgs o ingeniería inorgánica. Aquí, se enmarcan la bioingeniería para reescribir el código genético y reconectar los circuitos cerebrales, la vida biónica que fusiona distintos dispositivos con el cuerpo para mejorar sus capacidades o los programas informáticos que visibilizan navegar por mundos virtuales y no virtuales. Aun así ¿qué tan verídico es que lo inherente a los seres humanos se cifre en algoritmos, el procesamiento de datos y, consecuentemente, la definición de su mejoramiento? (Harari, 2020; 2016).
Con el ánimo de ofrecer salidas a este interrogante, una de las respuestas se centra en la distinción entre “hacer uso” de los sistemas inteligentes para tomar decisiones y “delegar” resoluciones trascendentes para las personas y la naturaleza. En efecto, se estima que los “sistemas autónomos” son artefactos autómatas que se alejan de poder autolegislarse y autodeterminarse, ya que tales facultades se vinculan con el reconocimiento recíproco e implican dignidad. Los artilugios deben estar al servicio de lo vital y con la debida supervisión para impedir engaños, no están llamados per se a configurarse como elementos de reemplazo. Los algoritmos son operaciones que no son de fácil elucidación. En definitiva, simularían intencionalidad, emociones, valores y sentido común, harían “como si” sintieran (Cortina, 2022; 2019).
De otro lado, se expresa que la autonomía debe comprenderse bajo las dimensiones de racionalidad, opcionalidad e independencia, evitando criterios simplistas y binarios. Las reprogramaciones estimulo- respuesta, las opciones de “filtrar” o el sometimiento percepción-control tienen como contrapunto la organización de la información en paquetes útiles, la protección de interferencias mediante filtros de spam o el llevar a cabo tareas que antes eran improbables. Si las herramientas de aprendizaje automático “no piensan” del modo en que “piensan” los humanos, no parece que puedan competir sobre la base de cómo hacemos las cosas. Esto debería suministrar cierta tranquilidad a quienes se preocupan por salvaguardar con furor la dignidad humana (Zerilli et al., 2021).
Vale la pena aludir, igualmente, a una visión orientada a discernir un “conflicto de racionalidades” contrapuestas. Se propende por amparar “una racionalidad abierta, crítica, inventiva, y que respete el axioma intangible de la pluralidad humana”, en contraste a una “razón instrumental extrema” hegemónica catapultada por las variantes digitales. La explosión innovadora de “máquinas infalibles”, no debe coartar el entendimiento humano, ni desprestigiarlo o reducirlo a lo superfluo. El contacto personal muta por trazas de lo automático, entablándose oposiciones entre las asistencias algorítmicas y lo perenne en pro de lo real, “aquel real del cual quisiéramos desprendernos, pero también aquel del que ya nos desprendimos poco a poco y casi en la indiferencia” (Sadin, 2020, pp. 281-282).
Las máquinas, fuertes y calculadoras, ya deciden con opciones programadas [ver figura 3]. Se cimientan en el silicio y no están sujetas a la muerte natural. Alivian el esfuerzo físico e intelectual pues la anatomía orgánica tiene yerros de diseño que no son susceptibles de autocorrección. Están para quedarse y no hay vuelta atrás sea positivo o negativo. Los vestigios del pasado van desapareciendo con la llegada de oleadas de bits, es un camino en el que la minería de datos se ensambla. Al escribir sobre un libro o cualquier asunto en un medio social se reciben consejos inmediatos e impositivos según los gustos. La IA avanza inexorablemente para alcanzar pautas de sujetos orgánicos y una vez adquiera funciones básicas esperables se demandará mayor sofisticación. En tal dirección, ante un relevo, el mejor de los legados que ha de dejarse es “lo humano” (Latorre, 2019).
Figura 3. “La IA ¿podrá ver, oír y entender?” Tomada de: Rouhiainen (2019, p. 23).
Lo computacional, con el aprendizaje automático, se sumerge en petabytes o grandes cantidades de datos. La afluencia de información se expande facilitando la comprensión de muchos fenómenos a la par de un sinnúmero de desenlaces disruptivos. Los modelos generan espirales interminables de bucles perniciosos que afectan a las personas en momentos decisivos de la vida (v. gr. salud, educación, trabajo, etc.). Mejor dicho, se tornan en auténticas armas de destrucción matemática o ADM, dada su opacidad, escala y daños colaterales. Son cajas negras inescrutables. Sin embargo y pese a ese alarmante poder, muchas veces basado en datos sustitutivos o proxies, a las máquinas se les dificulta la comprensión del contexto, la orientación no formalizada y el criterio de justicia que aportan los seres humanos (O’Neil, 2018).
El acceso a enormes volúmenes, combinaciones y plataformas de análisis de datos nos acerca a zonas nebulosas. Si se prosigue, a posteriori, con los rendimientos acelerados y la superinteligencia, para la que no estaríamos preparados, se delinea un punto sin retorno mediado por los artefactos (Kurzweil, 2012; Bostrom, 2016). Pero, seguir ese rumbo desenfrenado hacia “Maquinalandia” es un error flagrante. Se simplifica el mundo de las ideas, se suplanta la percepción y se merma lo accidental. Hay que distinguir lo estático de lo dinámico, predecible e impredecible. Las inferencias deductivas e inductivas no son equivalentes a las abductivas. Estas últimas, relevantes y fragmentadas, requieren “vastos depósitos de conocimiento de sentido común. Aún ignoramos cómo imbuir ese conocimiento en las máquinas” (Larson, 2022, pp. 222-223).
Un paso previo hacia una IAG son los sistemas integrados. Por muy selectos que sean los algoritmos de razonamiento, planificación o aprendizaje no se obtendrán IAG’s si no se ajustan todos los elementos. Es volver a la metáfora de la catedral, los investigadores en IA están construyendo y ubicando los ladrillos que la conformarán. Contar con insumos estupendos no es suficiente, hay que tener un buen diseño. Las arquitecturas cognitivas, explorando hipótesis, intentan resolver este aprieto con miras a conseguir articulaciones. En cerca de 70 años de despliegue de la IA el empeño se ha concentrado en IA especializada (v. gr. diagnosticar enfermedades o jugar ajedrez). Con todo, por muy de vanguardia que
lleguen a ser las futuras IA’s, incluyéndose la IAG, está en entredicho que serán iguales a las humanas (López de Mántaras & Meseguer, 2017).
Las nuevas tecnologías orientadas a la mejora del ser humano nos conducen al transhumanismo. Este movimiento heterogéneo permite separar dos vertientes: una, de corte cultural o crítico, como censura al humanismo clásico y con miradas escépticas frente a la transferencia de la mente en un ordenador. Y, otra, de carácter tecnocientífico, como conversión médico-biológica o mediante la unión del cuerpo con la máquina (Diéguez, 2017; 2021). Tal es el caso de la intervención genética, biomédica o farmacéutica con opositores, defensores y quienes la restringen; o de la creación de híbridos o mentes con cambios cognitivos superlativos que deben manejarse con cautela. La identidad humana y sus características distintivas, alejándose del copiado, son condición necesaria para la preservación (Giubilini & Sanyal, 2016; Agar, 2016).
Desde la óptica transhumanista, ya sea tecnocientífica o crítica, subyace una idea común: eliminar las fronteras entre los seres humanos y las máquinas. Esto lleva aparejado una mejora directa y desinhibida de lo biológico y culturalmente prefijado. Con la aplicación de biotecnología, biónica e IA, se sobrepasa la pasividad del proceso evolutivo que representa varias limitaciones que han de rebasarse en una extensa gama de rasgos. Además, es necesario prestar atención a la “crisis de los deseos” hacia el futuro de la humanidad ya que aún no se exhiben aptitudes fiables de lo que se aspira o ambiciona. Debido a las transformaciones en la cotidianidad de los ciudadanos, como habitantes del mundo, es apropiado delimitar los beneficios y peligros, analizando y evitando escenarios indeseables (Diéguez, 2017; 2021).
Al asumirse la vida como un “sistema autorreplicante de procesamiento de información”, concordante con la inteligencia no biológica y apartándose de compuestos celulares, el software dispone su ejecución y los esquemas para crear su hardware. Esta mirada no antropocéntrica abre la posibilidad de perfilar sistemas, en los que la IA incursiona, dando una lección de humildad al excepcionalísmo humano. En concreto, esto supone confrontar la “sapiencia” con la “sentiencia”, esto es, “la capacidad de pensar de forma inteligente” en contraposición a “la capacidad de experimentar subjetivamente qualia”. En esa medida, se propone reconocer a los humanos no como “Homo sapiens”, sino como “Homo sentiens” (Tegmark, 2018, pp. 57 y 384-385).
El horizonte por recorrer junto a la IA luce extraordinario y atractivo. Los artilugios con sus codificaciones suplen deprisa la intervención humana en lo cuantitativo y compiten, como un reflector, en lo cualitativo. No obstante, persisten rasgos que no son peculiaridades exclusivas ni se circunscriben a estados y dimensiones sintéticas. Con la 4RI se sobrepasan huellas antecesoras, pero lo humano es elemental. Aspectos derivados de la intuición, imaginación, justificación o planificación no vienen encriptados de suyo en las máquinas. En lo inorgánico la interiorización y creatividad son ejercicios pendientes que no se logran colmar solo con información. Si bien hay señales inequívocas de adquirir ventajas, tratando de dejar atrás limitantes u obsolescencias, no se deben descartar signos de alarma que pueden traducirse como declives.
Humanidades en clave bioética
El ámbito humanístico no puede ponerse en riesgo ni omitirse. En el área de la invención hace falta contar con mentes flexibles, abiertas y dotadas de pensamiento crítico para no propiciar o extender crisis silenciosas. Cultivar la literatura, las artes o la filosofía es valioso (Nussbaum, 2010). Aquí toma parte la bioética, como espacio en el que hay aportación de múltiples disciplinas, de cara a las transformaciones vertiginosas y rumbos indeterminados que puedan generarse. Por supuesto, ya ideas primigenias, a manera de imperativo, hacen inexcusable respetar todas las formas de vida y el entorno para no caer en reinos de superficialidad; e igualmente, es loable tender puentes entre las ciencias “duras” y los valores “blandos”, campos usualmente escindidos, en favor del cuidado y de la conservación (Jahr, 1927; 1933; Potter, 1971).
La bioética, en un contexto tecnológico y globalizado, es crucial ya que contribuye a encontrar soportes útiles para tratar de esclarecer diversas aristas de la vida. Apunta a encontrar marcos procedimentales,
deliberativos y razonables, para afrontar conflictos profundos, acompañados de diálogo, libertad y voluntad. Reconoce el valor de los seres humanos, más allá de las diferencias que puedan forjarse, en planos que no permanecen estáticos pues están fluctuando frecuentemente y se dilatan. En una época en la que parece estar suplantándose la naturaleza y se provoca una falsa conciencia contemporánea, su tarea es admisible para moderar los efectos y consecuencias del empoderamiento que, a menudo, se está encomendando a la fe cientificista (Valdés, 2011).
Las tecnociencias exteriorizan una nueva tipología de templos y credos. Se sobrepasan las creencias de cualquier culto (como el de las tradiciones monoteístas). Las revelaciones se vinculan con el tecnohumanismo y la religión de los datos. Mientras los humanistas se aferran a las expectativas internas para direccionar la propia vitalidad y delinear enfoques respaldados en el discernimiento, los dataístas profesan la conexión al flujo de datos ya que los algoritmos descubren su contenido y muestran las rutas a seguir. La consigna es: “¡registra, sube, comparte!” Hay que conectarlo “todo” al sistema, cosas y humanos, incluidos aquellos herejes que no quieran colaborar. Lo cierto es que esto desencadena pérdida de privacidad, autonomía e individualidad en provecho del aumento de curvas de difusión (Harari, 2016, pp. 383-421).
La expansión de las tecnologías de la información y comunicación (TIC’s) marca las distinciones entre quiénes éramos, quiénes somos y quiénes podríamos ser y llegar a ser [ver figura 4]. Lo digital o estar en línea (online) y lo analógico o fuera de línea (offline) abren paso a una nueva faceta maleable e híbrida (onlife). Se depende de interfaces, como si fueran una segunda piel, en las que la infoesfera difumina lo virtual y lo físico. La hiperhistoria como funcionamiento y crecimiento, en entornos donde los usuarios pasan transmitiéndose a sí mismos, da cuenta de una nueva forma de conceptualización, bienestar y de asimilar la universalidad. Las almas digitales, avatares, perciben intensamente la presión de obtener signos visibles de afinidad. El tejido de la realidad se remodela y, por ende, se tergiversa la autocomprensión (Floridi, 2014).
Figura 4. “De la prehistoria a la hiperhistoria”. Tomada de: Floridi (2014, p. 3). [Traducción propia]
-
El uso del big data no va a desvanecerse, tampoco lo harán los ordenadores ni las matemáticas. Aunque existan las mejores intenciones, los modelos predictivos de los programadores no deben construirse únicamente como mecanismos de conveniencia o eficiencia, tienen que integrar explícitamente los mejores valores bajo decisiones morales y parámetros éticos. A los sistemas informáticos y al juego de métricas no se les da bien desplegar habilidades interpersonales que de algún modo buscan emular, de ser el caso, mediante la retroalimentación de errores. Por tal motivo, en una dimensión digital que se proclama como justa, científica y democrática, hay que encaminar esfuerzos para vigilar, dominar y desarmar las ADM. No son fuerzas neutras e inevitables, por el contrario, son cuestiones sobre las cuales se amerita prestar atención con detenimiento (O’Neil, 2018).
Los ascensos en lo informacional o computacional producto de la IA varían el modo de comunicarse y cohabitar. No hay que esperar a que aparezca algo ilusorio o espectacular puesto que ya existen problemáticas reales de las que nos debemos ocupar. La ingeniería genética, la comercialización de datos al utilizar redes sociales, los ciberataques, la inserción en el trabajo y la enseñanza o el auge armamentístico en disputas bélicas ya se muestran delante de nuestros ojos. En los próximos años o décadas habrá que delimitarse con nitidez ventajas y peligros. Una de las labores indispensables de científicos, filósofos y legisladores será la de examinar desenlaces que sean previsibles, labrando acuerdos, en cuanto todas las soluciones no se desprenden unívocamente de las tecnologías (Diéguez, 2021).
Al preguntar: ¿qué hay de malo en jugar a ser Dios?, las posibles respuestas no se reducen a una tonalidad confesional; más bien, hay posturas asociadas al dominio de una naturaleza deificada o a lo que es controlable o no. En virtud de la variedad de incógnitas que aparecen la competencia y la consideración cautelosa son cardinales (Weckert, 2016). Recuérdese que en la novela de Mary Shelley, alusiva a la perfectibilidad humana, el creador de la criatura ya no es la divinidad, sino el científico Frankenstein. Allí se vislumbra la necesidad de un reconocimiento sin el que no habría vida en plenitud, quizá sería fructífero aumentar la calidad de vida en vez de empeñarse en producir superhombres o posthumanos. Es inquietante plantear que obtener atributos portentosos no garantiza favorabilidad ni reciprocidad (Cortina, 2013).
Si por “inteligencia” se entiende algo interesante, el zumbido de la magia biológica está pendiente de cartografiarse y no se limita a cargar aplicaciones a gran velocidad con macrodatos. Las expectativas férreas depositadas en la IA, con lagunas científicas y conceptuales, dejan entrever una tendencia “antihumana” asfixiante. Hay que desmitificar una cultura que perturba el pensamiento original, de una auténtica e ilimitada inteligencia general, sea eso lo que sea. No es de extrañar que hay que repensarse la conversación sobre la IA, sin olvidar que los encantos digitales y sus similares son una prótesis de la inventiva humana (Larson, 2022; Lanier, 2010). Mejor dicho, no es prudente demoler, bajo ímpetus de un constructor (Homo faber), nuestra propia valía lacerando y arrebatando el valor de la condición humana (Arendt, 2005).
En aras de una prosperidad inclusiva con impactos en lo económico, social, cultural, inter alia, se requieren reglas y controles para la consecución de equilibrios (Schwab, 2016). Esto hace imperioso promover la igualdad de oportunidades y disminuir disparidades, aplacando causas de incertidumbre, que actualmente se mantienen como una constante. Para ajustarse con tal propósito la actitud comprensiva y las narrativas compartidas se erigen como una buena opción. Hay una hegemonía del conocimiento, valga decir, se vive “en una época, la de la modernidad eurocéntrica, que otorga prioridad absoluta al conocimiento científico y a las prácticas directamente derivadas de él: las tecnologías”, en detrimento de otra clase de visiones, como las de índole ancestral, que no deben desestimarse (Santos, 2017, pp. 26-27).
Frente a situaciones emergentes como las vinculadas con la IA, a partir de una mirada contrahegemónica latinoamericana, por ejemplo, se señala que no se suele tener en cuenta a las zonas que poseen fragilidades. Esto obedece a un direccionamiento preferencial de los Estados centrales-privilegiados, en detrimento de los países periféricos-marginados. Por tanto, es oportuno intervenir en defensa de cambios prioritarios, concretos y de beneficios particulares hacia los colectivos. La materialización de la persona, en su corporeidad, armoniza una correlación social en la que las vivencias de los individuos son el substrato mediante el cual las comunidades, relativizadas, determinan sus diferencias sin condicionamientos impositivos o colonialidades. No son de recibo importaciones acríticas (Garrafa, 2023; Garrafa & Porto, 2008).
Sin desconocer que estos debates destapan brechas en función del desarrollo, es palmario que la IA ya tiene un uso extendido y, como cualquier tecnología, apareja controversias (Bello & Rosete, 2023). Debido a las preocupaciones que surgen se vienen elaborando una serie de documentos sobre principios, como los de Asilomar (Future of Life Institute, 2017); declaraciones, como las de Montreal (Universidad
17F
de Montreal, 2018) o Montevideo (Khipu, 2023); recomendaciones, como las de la UNESCO (2022); o resoluciones, como la de la ONU (2024); por citar algunos. Esto se da con el fin de fijar guías y evitar derivaciones adversas (Ekmekci & Arda, 2020). Se ha enunciado que si algo sale mal ¡probablemente no sea por falta de pautas! (Zerilli et al., 2021). Y, de requerirse, también es viable entrar a supervisar y regular –v. gr. el reglamento de IA de la Unión Europea 2 (2024) o la sentencia T-323-24 de la Corte
18F
Constitucional de Colombia 3 (2024).
Como se puede observar, la IA ya está entre nosotros y se adentra con mayor incidencia. Las promesas que acarrea son innegables y van en aumento, no obstante, se identifican vacíos. Es en este panorama donde el rol de la bioética resulta medular pues, además de ofrecer argumentos, constituye un lugar al que asisten diversas disciplinas con el propósito de dirigir esfuerzos para abordar problemáticas que competen a la esfera vital, ya sea humana o no humana, y su entorno. Esto cobra fuerza como un ejercicio deliberativo, coordinado y equilibrado en el que se buscan salidas mediadas por acuerdos y disensos justificados. En definitiva, con su participación, anima pensar que los seres humanos estamos convocados a entretejer métodos y sistemas valorativos, máxime cuando se ostenta, con anticipación, prevalencia cualitativa sobre lo computacional y el silicio.
