Actualidad. Encíclica papal Magnifica Humanitas. Esta encíclica es una bomba

 El Papa cita a Hanna Arendt y a Tolkien, carga contra la simulación y la meritocracia, demuestra conocer cómo funciona la IA, elogia la Novena de Beethoven, el Guernica y La lista de Schindler y pide perdón en nombre de la Iglesia por la esclavitud.

Pasajes más destacados e ideas principales de Magnifica Humanitas, la primera encíclica del Papa Leon XIV.

(1) "La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos."

(9) La tecnología "no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza".

(51) Contra la ideología meritocrática: la que sugiere que cada persona "deba ganarse o justificar su propio valor", atribuyendo más valía a los más eficientes y productivos. La persona reducida a recurso.

(98) Las IA modernas están "más cultivadas que construidas": “los desarrolladores no diseñan cada detalle, sino una arquitectura sobre la cual la IA crece". Y en consecuencia "los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos"

(99) Qué no es la IA: no vive experiencia, no tiene cuerpo, no conoce el amor ni el trabajo ni la responsabilidad, no tiene conciencia moral. "Pueden simular empatía o comprensión, pero no conocen lo que producen."

(100) Sobre la IA de compañía: el riesgo no es tanto creer que hablas con una persona "sino que pierda el deseo mismo de buscar realmente al otro". "Cuando la palabra es simulada, esta no construye una relación, sino una apariencia."

(104) "No podemos considerar a la IA como moralmente neutra."

(110) “La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla”.

(122) La cultura como vacuna contra la normalización del mal, con tres obras "casi proféticas": la Novena de Beethoven, el Guernica, La lista de Schindler.

(134) Es decir, las normas del pensamiento". "El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo, para el cual, como escribió la filósofa Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso).

(173-178) Las nuevas esclavitudes: etiquetado de datos, moderación de contenidos, extracción de tierras raras con trabajo infantil, trata gestionada por circuitos digitales, y el "colonialismo de datos" con sanitarios, genéticos y demográficos como "las nuevas 'tierras raras' del poder".

(176) "Es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y humillación que la esclavitud ha significado para tantas personas, en contraste con la dignidad sin límites de cada una de ellas, amadas infinitamente por el Señor. Por eso, en nombre de la Iglesia, pido sinceramente perdón”.

(198) Sobre armas autónomas: "No es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles." …"No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable."

(213) La cita de Tolkien (Gandalf, El retorno del rey): "No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir."

(214) "Desarmemos las palabras y contribuiremos a desarmar la tierra."