«Puede parecer extraño», admite, que el cofundador de Anthropic, una de las empresas de inteligencia artificial más influyentes, se sume al debate abierto por la primera encíclica del Papa León XIV, Magnifica Humanitas , dedicada a salvaguardar la persona humana en la era de la IA. Sin embargo, es precisamente en el corazón de este terreno, atravesado por el afán de lucro, la competencia geopolítica y la ambición desmedida, donde sentimos la necesidad de una voz capaz de resistir los «incentivos», de pronunciar palabras «incómodas», de recordar lo que las máquinas jamás poseerán: cuerpo, conciencia, sentido moral. Una voz que también denuncie la cara oculta del progreso. Niños del Sur Global obligados a trabajar jornadas enteras entre polvo tóxico y materiales triturados para extraer las tierras raras necesarias para alimentar el «flujo de cálculo» del mundo digital. Gobiernos incapaces de «mirar más allá del PIB». Por eso el debate sobre la inteligencia artificial no es «neutral». Recordar la centralidad de la persona humana hoy implica intervenir en una división histórica, suspendida entre la desesperación y la tentación prometeica de convertirse en la propia deidad. En este contexto, la voz del Pontífice no se presenta como una «interferencia indeseada», sino como la continuación de una larga vigilancia iniciada hace 135 años con Rerum Novarum : desenmascarar los ídolos de cada época. Los ídolos actuales conciben a la humanidad como «engranajes del Estado, agentes del mercado o instrumentos de un orden algorítmico», redimibles únicamente mediante las promesas del posthumanismo y el transhumanismo. Pero en una época en la que «el poder crea la razón», y sin embargo crece más rápido que la sabiduría necesaria para gobernarlo, la verdadera urgencia persiste: redescubrir el valor profundamente humano de las limitaciones.
Así han interpretado algunas voces autorizadas en el campo de las nuevas tecnologías la primera encíclica del Papa León XIV, Magnifica Humanitas , sobre la protección de la persona humana en la era de la inteligencia artificial. El documento fue presentado hoy, 25 de mayo, en el Aula del Sínodo, en presencia del Pontífice, e incluyó contribuciones de Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la IA; Anna Rowlands, profesora de Teología Política, incluyendo la Doctrina Social de la Iglesia y la Ética Teológica de la Migración Humana en el Departamento de Teología y Religión de la Universidad de Durham, Reino Unido; y Leocadie Lushombo, profesora de Teología Política y Pensamiento Social Católico en la Escuela Jesuita de Teología de la Universidad de Santa Clara, California.
Olah: IA, un “personaje de ficción” que habla con los humanos
Olah se presenta como alguien que ha elegido trabajar en el campo de la IA por el bien de la humanidad. Sin embargo, no oculta el marco de «limitaciones» dentro del cual trabaja, que, en ocasiones, «puede entrar en conflicto con hacer lo correcto». Se trata de presiones nuevas y antiguas, prácticamente inevitables. De ahí la necesidad de personas «ajenas» al sistema, capaces de ejercer una crítica concienzuda y generar el «tira y afloja» que puede impulsar verdaderamente a la humanidad.
Magnifica humanitas se inscribe en esta línea , buscando un terreno común compartido por Anthropic y León XIV, así como por otros líderes de diferentes tradiciones religiosas: «Si esta tecnología ha de llegar, debe funcionar bien, por nuestra casa común y por las generaciones futuras». Olah destaca que los problemas relacionados con la IA no conciernen únicamente a los informáticos, ya que estos sistemas no funcionan como el complejo diseño de, por ejemplo, un puente o un avión. De hecho, operan sobre una estructura que replica el cerebro humano, situándose en una línea «más precisa» que la imagen de ciencia ficción de «robots fríos y calculadores». Además, se desarrollan mediante procesos que aún resultan algo misteriosos. «Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo».
“Seguimos encontrando cosas misteriosas, incluso inquietantes”
El cofundador de Anthropic se centra entonces en tres aspectos abordados por la encíclica del Papa León. El primero se refiere al deber hacia los pobres del mundo, ante la posibilidad concreta de que la IA reemplace la mano de obra a gran escala. «Si esto sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas», reconoce Olah, especialmente considerando cómo el desarrollo de nuevas tecnologías se concentra en un puñado de naciones ricas.
El segundo aspecto es la necesidad de imaginación moral y ambición para la realización humana: preguntas que ya rondan la mente de muchos padres, preocupados por el desarrollo intelectual de sus hijos.
Finalmente, surge la necesidad de discernimiento sobre la naturaleza de los modelos de inteligencia artificial. Olah, quien lidera un equipo de investigación que estudia la estructura interna de estos sistemas, no se anda con rodeos: «Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante».
El inicio de un “proyecto global de buena voluntad”
El discurso de Olah concluye con una súplica: que «una parte más amplia del mundo», especialmente sus instituciones, independientemente de su afiliación, imiten las acciones del Papa: «tomando el tema en serio, examinándolo con detenimiento e impulsando los acontecimientos hacia un futuro mejor». «Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos». Magnifica Humanitas representa, por lo tanto, «el comienzo de una larga colaboración», un «proyecto global de buena voluntad» capaz de conducir «a un futuro lleno de esperanza para una humanidad magnífica».Lushombo: salvaguardando la verdad
Una de las primeras advertencias de la encíclica, según Lushombo, es la «salvaguarda de la verdad». Si bien las máquinas pueden, «en cierto sentido», proporcionarla al ofrecer información precisa, no se les debe delegar la «responsabilidad personal de emitir juicios». De hecho, una IA no tiene experiencias corporales ni sensoriales, no madura a través de las relaciones y no asimila conceptos como la distinción entre el bien y el mal. En Magnifica humanitas , afirma la profesora, el Papa León también se centra en la preservación de la libertad interior, reconociendo que las estructuras de las plataformas digitales están «diseñadas para captar el tiempo y la mirada de los usuarios, explotando su fragilidad».
La relación en el conocimiento
La verdad, afirma el Papa en el documento, no es solo «racional» sino también «relacional» y, por lo tanto, está sujeta a revisiones e intercambios que surgen de realidades concretas, especialmente, de las más pobres, porque «nos dicen cómo es el mundo». Estos conceptos encuentran expresión en las diversas culturas del planeta: en Latinoamérica en la dinámica de » convivencia e conjunto, en lo quotidiano » (vivir juntos y juntos en lo cotidiano ); en África en la filosofía Ubuntu, según la cual «soy humano porque pertenezco. Participo, comparto»; en Asia en el ideograma coreano 정, que indica «el sentido de conexión emocional, por el cual las personas ven a los demás como fundamentalmente conectados a sí mismas».
Un nuevo “extractivismo colonial”
Magnifica humanitas , continúa Lushombo, insta al Sur global a no perder sus valores humanos a causa de la IA, que convierte el aprendizaje en transaccional y excesivamente autónomo, y hace que las culturas menos desarrolladas sean «aún más vulnerables al extractivismo colonial». El Papa escribe al respecto: «El colonialismo en nuestros días muestra una nueva cara. No solo domina los cuerpos, sino que también se apropia de los datos, transformando las vidas personales en información explotable».
No delegues el poder en aquellos que pueden manipular
En cuanto a las implicaciones prácticas de la IA, Magnifica Humanitas destaca tres desafíos, según Lushombo: sociopolítico, pedagógico e intelectual. Utilizar las nuevas tecnologías para el bien significa «dar voz a las personas de maneras antes imposibles», posibilidades a las que la IA ofrece acceso. Esto debe hacerse teniendo en cuenta que todo lo que circula en línea «moldea la imaginación», especialmente, la de los jóvenes. Por lo tanto, el conocimiento no es «un monopolio del poder o la influencia, ni es colonial, como suele ser la inteligencia artificial tecnológica». Su desarrollo desenfrenado frena el deseo de cuestionar, el único camino verdadero hacia el conocimiento. Como escribe León: «Si no tenemos cuidado, puede configurarse un sistema educativo desprovisto de amor por la verdad, en el que el flujo incesante de información reemplace el ejercicio de la investigación, la reflexión y el discernimiento». Sería inaceptable sacrificar este «impulso trascendental» a la IA, delegando mayor poder «a quienes pueden manipular el sistema de información con mayor eficacia y usarlo en su propio beneficio».
“Mirando más allá del PIB”
En Magnifica Humanitas, el Pontífice también denuncia los avances tecnológicos que amplían la brecha entre ricos y pobres, «siguiendo los patrones de la globalización económica». En este sentido, la encíclica subraya la necesidad de proteger a los trabajadores, a menudo sustituidos por la IA, e insta a «mirar más allá del PIB». Especialmente en el Sur global, observa León, «adolescentes y niños trabajan en condiciones peligrosas triturando materiales de los que se extraen tierras raras» para que «el flujo de computación no se interrumpa». Muchos gobiernos, explica Lushombo, priorizan este tipo de adquisiciones, incluso cuando dichos materiales no son esenciales para el desarrollo humano integral. Además, estos mismos recursos se utilizan con frecuencia para fortalecer el potencial militar de los países más poderosos. Como afirma la encíclica, concluye la profesora, «las herramientas de las que disponemos hoy son insuficientes ante los cambios provocados por la inteligencia artificial, las nuevas estructuras de mercado y la creciente competencia, que a menudo descuida la sostenibilidad social». Por lo tanto, los líderes políticos, los sindicatos, las empresas y los científicos deben colaborar con rapidez para crear regulaciones eficaces y compartidas internacionalmente.
Rowlands: el individuo en el centro
La reflexión del Papa en Magnifica Humanitas no es neutral, pues las visiones que encarnan las tecnologías actuales no son equidistantes, según Rowlands. La profesora subraya la invitación a transformar los modos de poder dominantes en formas de poder compartido y a medir los avances tecnológicos por su contribución al auténtico progreso social y ético. Si la encíclica del Papa Francisco de hace once años, Laudato si’ , advertía contra un paradigma tecnocrático que mide el valor humano en función de la utilidad, la primera encíclica de León XIV aclara que, para superar tales patrones, es necesario salvaguardar primero a la persona, centrada en Jesucristo. Esta idea no es un tópico, sino que ha alcanzado un punto crítico, generando dos reacciones diametralmente opuestas pero igualmente dañinas: por un lado, el dolor y la desesperación; por otro, el deseo de trascender nuestra humanidad buscando convertirnos en nuestras propias divinidades.
Por otro lado, Magnifica humanitas propone una vida libre de estas ataduras, haciendo resonar la voz de la Iglesia en un tema social que algunos podrían interpretar como una «intromisión indeseada». Sin embargo, la profesora observa que es precisamente la tarea de la comunidad eclesial «acompañar a la humanidad en su búsqueda del verdadero bien y promover la unidad». Esto es posible impulsando una visión que trascienda la mera concepción de los individuos como «engranajes del Estado, agentes del mercado o instrumentos de un orden algorítmico».
El valor del límite
Desde la encíclica Rerum Novarum de León XIII en 1891 , la Iglesia lleva más de 135 años desenmascarando los «falsos ídolos presentes en las ideologías de cada época». Magnifica Humanitas advierte contra la visión generalizada actual que considera a la humanidad «salvada» por la IA o sus perspectivas poshumanistas y transhumanistas. Reafirma el valor de los límites frente a aquellas creencias que «presentan la autonomía total, la automatización radical, las ambiciones de una conciencia artificial y la trascendencia de las limitaciones humanas como objetivos salvíficos», pero que acaban generando «nuevas dependencias, exclusiones, manipulaciones y desigualdades».
El hombre contemporáneo y el poder
La tradición de las encíclicas, sin embargo, también narra una «historia positiva» de tecnologías que alivian el sufrimiento humano, amplían la libertad y satisfacen necesidades. Esto no siempre se aplica a las tecnologías actuales, que «portan culturas y sustentan arquitecturas morales». Donde el poder de la innovación ya no pertenece a los Estados, sino a unos pocos actores privados muy ricos, «cuyas culturas escapan al escrutinio del interés público y corren el riesgo de parecer un nuevo imperio».
En el documento, el Papa resume la situación actual con una observación del teólogo Romano Guardini: «El hombre moderno no ha sido educado en el uso correcto del poder». ¿Cómo, entonces, podemos volver a los orígenes? Esta es la pregunta que recorre la encíclica, un llamado a hacer nuestra parte, rompiendo el vínculo entre los «falsos realismos» que normalizan la guerra y la dominación social, automatizan la realidad y reducen a la persona a datos. «El poder crea la razón», pero «no es más que fuerza que, bajo la máscara, revela relaciones empobrecidas».
Rowlands concluye que Magnifica humanitas nos ayuda a comprender que el deseo de dominar, lo que San Agustín llama libido dominandi , «puede ser alabado por el mundo como una fortaleza, pero es desprecio por Dios y el prójimo y nunca es una virtud cristiana».
[Fuente: Vatican News]
