AQUÍ TIENES CINCO COSAS QUE DEBES SABER:

El papa León no se opone a la IA, pero …

La inteligencia artificial debe ponerse al servicio del florecimiento humano, escribe el Santo Padre. Como las res novae —o revolución— de nuestro tiempo, las posibilidades y los riesgos asociados con la IA, la robótica y la digitalización son reales e inminentes, y representan un “cambio de época” para la humanidad. Aunque esta tecnología no debe ser temida ni rechazada, las preguntas que plantea a la humanidad desafían la conciencia, escribe: “Debemos pedirle a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, en particular los avances de la técnica” (MH 4).

Inspirándose en temas bíblicos y en pensadores cristianos como J. R. R. Tolkien, Dorothy Day y san Agustín, así como en sus predecesores pontificios, el papa León subraya la necesidad de discernir y aplicar con sabiduría la doctrina social de la Iglesia en cada época.

La humanidad se encuentra en un punto de inflexión

Como es costumbre, el título de la encíclica —latín para “Magnífica Humanidad”— proviene de las palabras iniciales del documento. Pero también es un tema adecuado para la visión que el papa León desarrolla a lo largo del texto. Aunque la inteligencia artificial promete avances exponenciales en eficiencia y productividad, no debe lograrse a costa de la persona humana, creada de manera única a imagen de Dios, afirma el papa. “La técnica no es un simple instrumento y que, cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz” (MH 92).

El ritmo del avance tecnológico sitúa a la humanidad en una encrucijada, escribe el papa León. Al comparar este momento con la Torre de Babel bíblica, que los seres humanos construyeron como una manera de relegar a Dios, León exhorta a los líderes de hoy a evitar el “síndrome de Babel”, que describe como “la idolatría del lucro que sacrifica a los débiles” (MH 10) y utiliza a las personas como medios que deben optimizarse, en lugar de fines creados por Dios. “La primera elección no es entre un ‘sí’ o un ‘no’ a la tecnología, sino entre construir Babel o reconstruir Jerusalén: entre un poder que pretende dominar el cielo y un pueblo que, en presencia de Dios, se pone a trabajar unido para levantar de nuevo las murallas de la convivencia fraterna” (MH 9).

Como en todo, la dignidad humana es lo primero

A medida que la IA avanza rápidamente hacia casi todos los ámbitos de la sociedad, es fundamental que los líderes, los gobiernos, las familias y las industrias consideren su impacto en la dignidad, el florecimiento y la libertad humanos, escribe el papa, incluso si ello implica desacelerar. El espectro de un desempleo generalizado —que sería una “verdadera calamidad social”— resulta aún más insidioso cuando “la innovación suele acogerse únicamente con el fin de reducir costes y aumentar los beneficios”, afirma (MH 151).

Magnifica Humanitas aborda el impacto de la IA y la tecnología en la educación, la crianza, el bienestar psicológico, la comunicación, la imaginación, la seguridad económica, el medioambiente y más. Incluye advertencias sobre la adicción digital y “nuevas formas de esclavitud”, entre ellas la explotación sexual y la trata de personas, e incluso una disculpa histórica por el papel de la Iglesia en tolerar formas de esclavitud en el pasado. La palabra “dignidad” aparece 105 veces en el documento: “Si una tecnología promete emancipación, pero produce nuevas formas de subordinación global, contradice el principio fundamental de la dignidad de la persona”. (MH 173)

La prudencia y la responsabilidad hacen una gran diferencia

En lo que respecta a la IA, el papa León escribe que “tres aspectos, en particular, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana” (MH 100).

• Si bien la IA puede hacer que tareas complejas resulten muchísimo más sencillas, corre el riesgo de debilitar la creatividad y el juicio humanos —e incluso de diluir la verdad objetiva— cuando se depende de ella en exceso, señala el documento.
• Aunque los sistemas de IA puedan parecer objetivos, es fácil “hacernos olvidar que estos reflejan los parámetros culturales de quienes [los] han proyectado y adiestrado” (MH 100). La inteligencia artificial no puede considerarse “moralmente neutra”, añade el papa, cuando “esta moral es decidida por unos pocos” (MH 107).
• La IA también representa un riesgo particular para los vulnerables —en especial los jóvenes y las personas emocionalmente afectadas— quienes, al interactuar con chatbots en conversaciones simuladas, pueden “[perder] el deseo mismo de buscar realmente al otro” (MH 100).

Por estas razones, corresponde a todos quienes desarrollan, regulan y utilizan la tecnología establecer límites, actuar con prudencia y salvaguardar el bien común, escribe.

La IA y la guerra moderna

El papa León dedica todo el quinto capítulo de Magnifica Humanitas al choque entre “la cultura del poder y la civilización del amor”, que alcanza un punto crítico cuando la tecnología posibilita nuevas y peligrosas formas de guerra. Los drones, las armas autónomas y el armamento impulsado por IA pueden reducir el juicio moral a un mero “cálculo”, escribe, difuminando las consecuencias humanas de la guerra y “transformando la defensa en previsión operativa, con las víctimas reducidas a datos” (MH 198).

La eficacia letal con la que las máquinas pueden matar —y la tentación de utilizarlas para acumular control— ha dado lugar a una “cultura del poder” en la que el juicio moral queda sustituido por la conveniencia estratégica, escribe el papa. Por esta razón, salvo en casos de estricta legítima defensa, afirma que “la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa” (MH 192); “no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable” (MH 198).

En contraste, el papa León llama a los cristianos a construir “la civilización del amor”, imitando a Cristo y a los santos al promover la paz mediante el diálogo, la justicia y el amor. “La civilización del amor no nace de un gesto único o espectacular, sino de una suma de fidelidades pequeñas y tenaces, que hacen frente a la deshumanización” (MH 213).