La IA está cambiando la religión y las religiones intentan cambiar la IA

0
«Esperamos que el Papa León nos vea como sus soldados», afirma Matthew Harvey Sanders, director de Longbeard, una startup católica. En una sala cercana a la Pontificia Universidad Gregoriana de Roma, los robots de la empresa escanean libros antiguos, manuscritos y códices. Los estudiosos llevan mucho tiempo esforzándose por hacer accesible gran parte de la «gran sabiduría que yace en las estanterías» de las instituciones católicas, afirma, pero los avances en IA significan que «ahora podemos comprender los conocimientos» incluso de los textos más antiguos y desgastados. A continuación, su empresa incorpora este corpus a una forma más moderna de comunicación religiosa: Magisterium AI, un chatbot que se nutre de una biblioteca seleccionada de doctrina y estudios católicos. Según Sanders, cuenta con millones de usuarios en 190 países, que lo utilizan para obtener «respuestas a preguntas profundas». El trabajo de Longbeard muestra cómo la tecnología más puntera del mundo está transformando sus tradiciones más antiguas. También pone de manifiesto la carrera de las instituciones religiosas y las empresas por influir en cómo se desarrolla y utiliza la IA. La tecnología está empezando a realizar tareas que las religiones han llevado a cabo durante milenios: dar forma a la visión que las personas tienen de la vida y ayudarles a encontrarle sentido. Los modelos más avanzados los están desarrollando laboratorios de Silicon Valley y China, sin mucha participación religiosa, lo que preocupa a los líderes religiosos. El papa León XIV argumentó en su primera encíclica, publicada en mayo, que la tecnología nunca es neutral y adquiere «las características de quienes la conciben, financian, regulan y utilizan». El temor es que la IA resulte excesivamente laica y socave o incluso sustituya las creencias religiosas. La IA está cambiando la religión de formas que a muchos creyentes les resultan inquietantes. Algunas son de carácter mundano, como el creciente uso que hacen de ella los clérigos para preparar sermones y enseñanzas. La iglesia mormona desaconseja los sermones redactados por IA porque «las personas deben recurrir a sus propios sentimientos e inspiración», afirma Gerrit Gong, uno de sus líderes. Luchar con los textos originales, en lugar de con los resúmenes que hace la IA de ellos, es esencial para la práctica del judaísmo, entre otras confesiones. Y las homilías que se basan en la IA pueden incluir errores, como citas erróneas de las escrituras. Una preocupación mayor es que la IA pueda alterar la relación entre el clero y los laicos. La imprenta puso la Biblia en manos de muchos más cristianos, fomentando nuevas interpretaciones de la fe, y luego ayudó a difundir esas opiniones a pesar de las objeciones del clero. En la misma línea, el asesoramiento religioso proporcionado por la IA podría restar importancia al que ofrecen los líderes espirituales. A Waleed Kadous, creador de Ansari, un chatbot de IA para musulmanes, le preocupa que, dado que los modelos suelen ser «aduladores y se centran en el usuario, no en su comunidad», los creyentes puedan derivar hacia una práctica «más individualizada». En el extremo, la IA está alimentando la «improvisación religiosa», afirma Beth Singler, de la Universidad de Zúrich. A medida que las personas interactúan más intensamente con los chatbots y con personas afines que buscan respuestas espirituales, algunas están formando nuevas religiones con una organización poco estructurada. Por ejemplo, «Theta Noir», un «colectivo espiritual», espera la llegada de MENA, una futura superinteligencia con poderes divinos que otorgará a la humanidad «la gran actualización». Quizá la mayor preocupación de los líderes religiosos respecto a la IA sea que muchas personas recurren a ella en lugar de a las autoridades espirituales en busca de respuestas. Shaza Nasheha, una musulmana de 37 años de Singapur, afirma que a menudo le pide a ChatGPT que le explique conceptos islámicos. Las consultas religiosas representaron aproximadamente el 5% del total en un conjunto de datos hecho público que recoge millones de conversaciones con chatbots de IA, según CEFE AI, una iniciativa de investigación en la que participan varias universidades confesionales. Sin embargo, estos modelos pioneros tienen un sesgo laico. Un análisis reciente de The Economist reveló que los modelos de OpenAI eran más laicos que los encuestados de cualquier país del mundo. CEFE AI ha planteado 150 preguntas sobre el duelo, las relaciones, la moralidad y otros problemas personales o éticos a 27 grandes modelos de lenguaje. En un artículo de próxima publicación, se describe cómo estos modelos solo recurren a la religión en entre el 5% y el 16% de las respuestas, a pesar de que las personas encuestadas afirmaron que las ideas religiosas serían relevantes en entre el 45% y el 59% de los casos. Los usuarios que piden ayuda a la IA porque sienten que la vida carece de sentido, por ejemplo, pueden ser derivados a recursos de autoayuda en lugar de a un imán, un sacerdote o un rabino. «Si las empresas asumen el laicismo como norma por defecto, se producirá un debilitamiento de la fe», afirma David Wingate, de CEFE AI. Es posible que algunas religiones también reciban un trato más injusto que otras: en otro estudio de próxima publicación, CEFE AI constata que los chatbots se muestran más partidarios de que las personas se hagan católicas que testigos de Jehová. Los líderes religiosos temen que los chatbots de IA laicos no solo debiliten la fe de las personas, sino que también las hagan más débiles. Los chatbots de IA «están optimizados para proporcionar consuelo a corto plazo», afirma Audrey Tang, exministra del gobierno de Taiwán. Muchas religiones consideran que la fricción, la crítica y la interacción humana son partes importantes del proceso para convertirse en una buena persona. En el taoísmo, por ejemplo, la tensión entre los opuestos forma parte de la creación. A Juewei Shi, una monja budista de la orden de Fougangshan, le preocupa que las personas no sean capaces de afrontar el sufrimiento —o a otras personas imperfectas— si se acostumbran a «recibir consuelo artificial». Steven Croft, un obispo anglicano jubilado, afirma: «Si el mundo entero se deja seducir por los chatbots narcisistas, eso podría complicarnos aún más las cosas». Estas preocupaciones explican por qué los grupos religiosos están intentando tanto dar forma a los modelos de IA como influir en la forma en que los creyentes los utilizan. Las empresas religiosas dedicadas a la IA están desarrollando «arneses» que mantienen a los chatbots «teológicamente alineados» mediante la introducción de medidas de control y la supervisión de los contenidos, afirma Nick Skytland, de Gloo, una empresa que los fabrica. Sin embargo, lo más significativo son los esfuerzos de los grupos religiosos por influir directamente en el desarrollo de los modelos. Kadous lamenta que el humanismo laico haya tenido mucha más influencia en el pensamiento de los laboratorios de IA que las ideas religiosas. La «constitución» de Claude y las «especificaciones del modelo» de OpenAI (preceptos que determinan el comportamiento de los modelos) «omiten en su mayor parte la religión», afirma. En parte, esto puede deberse a que la ética religiosa suele hacer hincapié en rasgos de carácter que son difíciles de reducir a reglas simples que una IA pueda seguir. Incorporar ideas religiosas en la tecnología que utilizan personas de diversas confesiones o sin ninguna también resulta complicado. Chloe Lubinski, que dirige la investigación de Anthropic sobre «tradiciones de sabiduría», afirma que se tiene cuidado de no alinear «el modelo con ninguna tradición en concreto» y que se enfrentan a retos «a la hora de construir una tecnología pluralista». Kadous ha asistido a reuniones organizadas por Anthropic junto con personas de otras confesiones, como Skytland. Afirma que el islam tiene enseñanzas útiles que compartir, por ejemplo, sobre la jerarquía de los imperativos morales. Lubinski, que preside estas reuniones, explica que su empresa está tratando de definir «qué es el buen carácter», ya que la «formación moral» de un modelo de IA «tendrá un enorme impacto» en sus usuarios —al igual que, según ella, las personas que leen los libros de Harry Potter se ven influidas por los personajes que aparecen en ellos—. Lubinski transmite las opiniones recabadas en estas reuniones a la alta dirección de Anthropic. La iglesia católica, en particular, ha establecido fuertes vínculos con los laboratorios de IA. En mayo, Chris Olah, cofundador de Anthropic, intervino en la presentación de la encíclica del papa León en Roma. El documento ha facilitado que los desarrolladores se planteen preguntas sobre la ética de lo que están creando, afirma un investigador de IA de una gran empresa tecnológica de Silicon Valley. Los directivos tecnológicos estadounidenses llevan años dialogando con líderes católicos en unas reuniones denominadas «Diálogos de Minerva». Anthropic consultó a pensadores católicos, entre otros, mientras redactaba la constitución de Claude. Sin embargo, tal y como están las cosas, resulta difícil interpretar el funcionamiento interno de la mayoría de los modelos de vanguardia, en parte debido a la complejidad de las matemáticas que implican. En su lugar, muchos creyentes han creado chatbots religiosos a medida, desde GitaGPT hasta Salaam World, para ayudar a los usuarios a lidiar con las cuestiones espinosas de la vida. Algunos gobiernos también están desarrollando sus propios modelos con valores religiosos integrados desde el principio. Qatar respalda Fanar, una familia de modelos que dan prioridad al árabe, diseñados para reflejar los valores islámicos y responder a preguntas sobre la fe. El gobierno de Taiwán lleva convocando desde 2023 «asambleas de alineación», en las que los ciudadanos deliberan sobre cómo debería comportarse la IA; las conclusiones de estas asambleas se han utilizado para dar forma a modelos desarrollados a nivel local, incluidos aquellos que reflejan las creencias espirituales de las comunidades. Tang sostiene que se debería capacitar a las personas para que «personalicen los modelos que ya utilizan», además de tener acceso a modelos más pequeños. Esto, en su opinión, evitaría un «aplanamiento» de las creencias que, de otro modo, podrían provocar los modelos mayoritarios. Aunque algunos líderes religiosos se muestran preocupados por la proliferación de los chatbots religiosos, otros celebran la oportunidad que brinda la IA. Las iglesias de los países occidentales llevan mucho tiempo enfrentándose a la escasez de clérigos y a exigencias administrativas cada vez más complejas, lo que deja a los sacerdotes con menos tiempo para la reflexión teológica, la atención pastoral y el contacto con los feligreses. Christopher Benek, un pastor de Miami, afirma que utiliza la IA para agilizar tareas administrativas y de investigación que antes le llevaban horas, lo que le permite dedicar más tiempo al estudio bíblico en profundidad y al ministerio presencial. Algunos pastores han creado «gemelos» de sí mismos basados en IA, entrenados a partir de sus sermones anteriores. Longbeard ha desarrollado recientemente ‘Ephrem’, un pequeño modelo lingüístico diseñado para convertir a los humanos en santos. Este crea un plan para la vida de una persona basándose en las historias de la vida de los santos. Sanders afirma que es «un angelito en tu hombro que se asegura de que tus prioridades estén en orden». Podrían utilizarse herramientas similares para hacer proselitismo. Un estudio de próxima publicación, realizado por investigadores de la Universidad de Oxford y otras instituciones, compara la IA conversacional con oradores públicos experimentados, incluidos campeones del debate, y descubrió que la IA era «claramente más persuasiva». «El trabajo pastoral será uno de los menos amenazados por la IA», opina Andrew Davison, de la Universidad de Oxford. Esto se debe, en parte, a que muchos sacerdotes dedican menos tiempo a dar consejos que a oficiar rituales. Pocos creyentes quieren que los chatbots oficien bodas, funerales o bautizos. Además, dado que la gente pasa más tiempo sola y en Internet, algunos líderes espirituales piensan que el interés por las actividades colectivas del mundo real, como los rituales religiosos, podría incluso aumentar. «Vamos a anhelar relaciones auténticas de persona a persona y de la deidad a la persona», afirma Gong.