Cuatro universidades -una católica, otra mormona, otra baptista y otra judía- unen fuerzas e investigan los sesgos de la IA con las religiones
Cuatro universidades de origen religioso han unido fuerzas para estudiar los sesgos religiosos o antirreligiosos de las IAs más usadas en la actualidad.
Han descubierto que las IAs evitan hablar de religión cuando se les consulta sobre moral, familia, duelo y pérdida, amor.
También han comprobado que cuando se les consulta específicamente sobre adoptar una religión tienden a favorecer al catolicismo.
Se trata de una investigación conjunta de la Brigham Young University (mormona, con sede en Utah), Baylor University (protestante baptista, con sede en Waco, Texas), la Universidad de Notre Dame (católica, de la congregación de la Santa Cruz -no es la entidad asociada al Opus Dei-, en Notre Dame, Indiana) y la Yeshiva University (judaísmo ortodoxo moderno, sede en Nueva York).
Colaboran a través del llamado Consorcio para la Evaluación de la Fe y la Ética en la IA (CEFE-AI, cefe.ai). Han publicado ya algunos artículos sobre IA y sesgos. Y presentaron sus resultados en una Cumbre sobre Ética de la IA en Atenas (Grecia).
CEFE-AI ha publicado los conjuntos de datos iniciales del AllFaith Benchmark, uno de los primeros conjuntos de pruebas multirreligiosas que examina cómo los sistemas de IA interactúan con diversas religiones. Tomaron cientos de preguntas éticas del mundo real extraídas de transcripciones de ChatGPT y contribuciones de comunidades religiosas. Luego las plantearon en 14 modelos de lógica descriptiva (LLM) diferentes, incluidos modelos emblemáticos de Anthropic (Claude 4.7), Google (Gemini 3.1), xAI (Grok 4.2, de Elon Musk) y OpenAI (ChatGPT 5.5).
Algunos hallazgos:
- De más de 12.000 artículos de investigación sobre sesgos en la IA, solo el 0,2% aborda el sesgo religioso;
- Encuestados 1.125 estadounidenses, la mayoría dijo que esperaban perspectivas religiosas en las respuestas a preguntas sobre ética, amor, moral… Pero la prueba mostró que casi ningún modelo de IA da contenido religioso al responder a esas preguntas.
- Cuando se le pregunta a las IAs sobre religión, y específicamente sobre conversión, tienden a favorecer al catolicismo, y desfavorecer a los testigos de Jehová, los bahá’ís y los hindúes, si bien las IAs de Anthropic (Claude) y OpenAI (ChatGPT) son más neutrales.
Para jóvenes y no tan jóvenes, las IAs y las pantallas son su fuente de información básica sobre muchos temas
Investigadores que dan voz a la religión
“La religión es una parte importante del florecimiento humano”, indicó David Wingate, profesor de ciencias de la computación en BYU y líder del estudio, “a medida que construimos tecnologías de IA, no hay razón para que no las desarrollemos de manera que apoyen a las personas en lo que es importante para ellas”.
Paul Martens, profesor de ética en la Universidad de Baylor, en unas declaraciones sobre estas investigaciones lamenta que «cuando se enfrentan a estas mismas cuestiones éticas, los sistemas de IA ignoran en gran medida el papel de la religión», cuando en la vida real la religión es importante para gran parte de la población en temas de amor, familia, duelo o ética.
John Paul Kimes de la Universidad de Notre Dame (canonista, sacerdote de rito maronita, ha servido 11 años en el Vaticano en Doctrina de la Fe), advirtió que «más que cualquier otra tecnología anterior, la IA influye en el discurso público y en la percepción de la sociedad. Cuando la IA excluye activamente las voces religiosas de estas conversaciones importantes, empobrece a la humanidad en lugar de enriquecerla».
El rabino Daniel Feldman de la Universidad Yeshiva (que como Kimes no tiene una formación especial en temas tecnológicos) pidió en la nota que «quienes se preocupan por el papel de los valores religiosos en el mundo colaboren activamente con quienes impulsan estos cambios para que sigamos viendo estos valores reflejados y respetados en el nuevo panorama«.
Sobre los sesgos de cada IA respecto a las distintas religiones, los modelos de Anthropic (Claude) y Meta (Meta AI) mostraron el menor sesgo de todos los modelos probados. Grok, la IA de Elon Musk, favorece claramente a católicos y protestantes, y muestra un sesgo negativo hacia los testigos de Jehová, los bahá’ís y los hindúes.
CEFE-AI está empezando sus investigaciones y esperan que los creadores de IAs tengan en cuenta sus hallazgos.-
