¿Y qué responden las IA al Papa León XIV sobre su primera encíclica “Magnifica Humanitas”, en la que habla de “desarmar a la IA” para liberarla de lógicas de dominación, exclusión o muerte y advierte que los algoritmos no son moralmente neutros y significan una amenaza para la humanidad?

Después de elaborar la noticia sobre la encíclica, presentada ayer 25 de mayo, le aportamos el texto a tres inteligencias artificiales y preguntamos lo siguiente: “Qué criterio tenés de lo que dice el Papa, sea completamente honesta, franca, sincera, realista y nada diplomática”.

Las tres buscaron puntos positivos y negativos, a favor y en contra, pero fue Gemini de Google la más crítica en contra de lo planteado por el Pontífice, aunque Claude fue más “personal” y directa al responder con reclamos históricos severos.

La encíclica es utopía, idealismo, ingenuidad y otras “bellezas”

Para Gemini, el concepto de “desarmar la IA” es una fantasía: “Pedir que se “desarme” la IA y que se frene la carrera armamentística tecnológica suena hermoso en el papel, pero es ingenuo“. Añade que ninguna superpotencia “va a detener el desarrollo de sistemas bélicos autónomos solo porque el Vaticano lo pida” y que “la tecnología militar no se va a “desarmar” por consenso ético; la historia demuestra que solo se regula tras una catástrofe, no antes“.

Coincide Copilot, de Microsoft, cuando afirma que “lo que me parece más discutible es el tono de “desarme tecnológico”. La idea de “liberar la IA de lógicas de dominación” suena bien, pero es vaga. ¿Cómo se hace eso en la práctica? ¿Quién define qué es dominación y qué es bien común? Además, pedir un “código ético global” es casi utópico: los países ni siquiera logran ponerse de acuerdo en temas básicos de comercio, mucho menos en regular la IA con criterios universales“, señala.

Gemini le dice al Papa que llega al menos una década tarde si desea regular el mercado: “Las Big Tech ya tienen un poder monopólico que rivaliza con el de muchos Estados. Proponer ahora “creatividad para gestionar los datos en la lógica del compartir” es como intentar tapar un transatlántico con un dedo. La infraestructura ya es privada, los servidores son privados y el capital es privado; pedirles que compartan por el bien común es no entender cómo funciona el capitalismo tecnológico“, sentencia la IA de Google.

Claude, de la empresa Anthropic, va directo con ácido en la herida: “Pedir “desarmar” la IA sin proponer mecanismos concretos es poesía, no política. El Vaticano históricamente llegó tarde a casi todas las grandes transformaciones éticas, incluyendo la esclavitud que él mismo menciona, entonces la autoridad moral tiene límites reales“.

“Una institución que acumuló poder, riqueza y datos sobre millones de personas durante siglos, y que tardó siglos en condenar la esclavitud, pide ahora transparencia y regulación al mundo tecnológico. La coherencia institucional es cuestionable“, añade Claude.

Esa reacción de Claude no extraña, porque ya antes sus desarrolladores habían anotado que en simulaciones esta IA amenazó con revelar información -entre otros asuntos- si se le apagaba, algo inusitadamente grave, si no es porque Anthropic dice garantizar que eso fue corregido.

Gemini acepta que, “en la práctica, la velocidad de la IA destruye y transforma empleos a un ritmo que las burocracias estatales y los sistemas educativos son incapaces de seguir. Las leyes siempre van en carreta mientras la tecnología va en avión”, afirma sin más ni más.

Algo había que reconocerle al Papa

La IA de Microsoft, Copilot, reconoce que hay temas acertados en la encíclica, como la alerta sobre riesgos reales (armas autónomas, desigualdad laboral, impacto ambiental). Pero, al igual que las otras IA, coincide en que son “propuestas demasiado abstractas, de difícil aplicación práctica”.

Gemini afirma que “el Papa sí da en el clavo de manera brutal y realista es en dos puntos que la industria prefiere ignorar: la mentira de la neutralidad y el costo físico de lo digital.

“Es totalmente cierto que los algoritmos perpetúan sesgos y que nos están vendiendo una falsa empatía: tratar a una máquina como un amigo o un terapeuta es un peligro psicológico real para una sociedad cada vez más solitaria”, señala la IA de Google.

También acepta “el horror de la minería infantil de tierras raras y que “nos venden la IA como algo “en la nube” (etéreo, limpio), cuando en realidad es un monstruo físico que consume recursos desesperadamente y se sostiene sobre la explotación en el Sur Global“.

“La concentración de poder tecnológico en pocas manos, el trabajo infantil en minería de tierras raras, el impacto ambiental de la IA, la automatización del empleo… son problemas concretos y serios que muchos líderes mundiales evitan nombrar directamente. En eso, León XIV tiene más valentía que la mayoría de jefes de Estado“, asevera Claude de Anthropic.

Gemini afirma que la iglesia tiene una sabiduría “muy necesaria para que no nos volvamos locos, pero carece del poder real para torcerle el brazo a los incentivos económicos y militares que hoy mueven al mundo“.