Podcast.

Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas “armas autónomas letales” para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.

 En la tarde del viernes, 14 de junio, un hombre de ochenta y siete años rodeó la mesa en la que se iba a sentar para saludar a los dirigentes políticos que se habían dado cita en la cumbre del G7. Hubo saludos más efusivos que otros. Algunos no sabían si permanecer en pie o sentarse. Era la primera vez en la historia que un pontífice hacía acto de presencia en una reunión de este tipo. Me imagino que en estos encuentros habrá una sala especial donde almacenar el ego hasta que termine el diálogo, porque, de otro modo, será difícil mantenerse concentrado con los sutiles despliegues de poder aquí y allá.

 La alocución del papa Francisco se centró en la Inteligencia Artificial. Sin embargo, el encuentro del G7 abordó muchos otros temas: Apoyo a Ucrania, solidaridad con Israel, el aumento de apoyo a los países africanos o el compromiso con la Agenda 2030, entre otros. En el documento final, el respaldo a Ucrania se explicita mediante una serie de apoyos financieros, reparaciones, sanciones y medidas económicas. Se percibe a Rusia como un estado agresor. Paralelamente, el conflicto en Gaza es percibido desde una óptica muy diferente. Se condenan los ataques de Hamas, pero no se hace mención a la desproporción en la respuesta del estado de Israel. Sí se condena, sin embargo, la violencia extrema de algunos colonos contra palestinos, omitiendo el dato concreto de que alguna de esa violencia haya sido ejercida por personas con uniforme militar.

 Lo anterior no es un apunte fortuito, político ni ideologizado, sino que viene a primer plano por su intrínseca relación con el tema de la Inteligencia Artificial y la presencia del papa Francisco en la cumbre del G7.

 Un poco más arriba, leíamos unas palabras del pontífice haciendo una llamada para prevenir que una máquina llegue a tomar decisiones relacionadas con la terminación de una vida humana. En estos conflictos del siglo XXI, como son la Guerra en Ucrania y el genocidio de Gaza, la ciudadanía de a pie no tenemos acceso real y directo a la información de lo que ocurre en las salas de estrategia militar. Sin embargo, a tenor de lo que nos llega desde el terreno, parecería que muchas de las decisiones ya las está tomando una Inteligencia Artificial, puesto que a lo único que parecen estar orientadas es a la eficiencia en términos de bajas enemigas, no a la eliminación del conflicto en sí mismo. Para una máquina, más muertes usando menos recursos es un resultado aceptable.

 Aun así, la guerra no es el único espacio donde las palabras del papa Francisco encuentran un eco. En el contexto de la ciencia médica, la inteligencia artificial puede ayudar lo mismo con una operación quirúrgica que con un diagnóstico o actuar del mismo modo que lo haría en un misil o en un dron suicida. Las técnicas diagnósticas prenatales han avanzado mucho en las últimas décadas. Es previsible que en su futuro desarrollo se vayan entremezclando cada vez más con la inteligencia artificial y llegue el día en que se tomen decisiones de manera automática sobre qué individuos deben nacer y cuáles no.

 Como el pontífice eligió el discurso corto, hubo varios párrafos que omitió. Sin embargo, el mensaje original, el largo, está disponible en la web del Vaticano. Allí podemos leer otra de las implicaciones de la Inteligencia Artificial en relación a la toma autónoma de decisiones que afectan a la vida humana de manera directa.

Un buen ejemplo es el uso de programas diseñados para ayudar a los magistrados en las decisiones relativas a la concesión de prisión domiciliaria a presos que están cumpliendo una condena en una institución penitenciaria. En este caso, se pide a la inteligencia artificial que prevea la probabilidad de reincidencia del delito cometido por un condenado a partir de categorías prefijadas lo que permite a la inteligencia artificial tener acceso a categorías de datos relacionados con la vida privada de la persona detenida.

[...]

 El ser clasificado en un cierto grupo étnico o, más prosaicamente, el haber cometido hace años una pequeña infracción, influirá, de hecho, en la decisión acerca de la concesión de la prisión domiciliaria.

[...]

 El ser humano está siempre en evolución y es capaz de sorprender con sus acciones, algo que la máquina no puede tener en cuenta.

 En efecto, por muy sofisticada que sea la Inteligencia Artificial, hay una serie de cuestiones que no puede ni sabe tomar en consideración. Podemos predecir lo que ocurrirá, pero, al final, la estadística no es más que una ciencia para recoger, interpretar y analizar datos y no es infalible, lo mismo que tampoco son infalibles otros modelos matemáticos. Se necesita algo más que permita trascender el mero aparataje numérico.

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. Por esto he acogido con satisfacción la firma en Roma, en 2020, de la Rome Call for AI Ethics y su apoyo a esa forma de moderación ética de los algoritmos y de los programas de inteligencia artificial que he llamado “algorética”. En un contexto plural y global, en el que también se muestran las distintas sensibilidades y plurales jerarquías en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético podemos recurrir además a otros tipos de instrumentos. Si nos cuesta definir un solo conjunto de valores globales, podemos encontrar principios compartidos con los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.

 Este concepto que mencionaba Francisco, el de algorética, no es nuevo. Lo utilizó por primera vez en 2019, cuando habló a los participantes en un congreso para promover la dignidad digital de la infancia.

 Allí había ONGs, empresas tecnológicas, políticos y líderes religiosos, entre otra mucha gente. En ese contexto, el papa pedía a los ingenieros informáticos que se sintieran personalmente responsables de la construcción del futuro, invitándoles a hacerse promotores de un nuevo campo para la ética relacionado con las inteligencias artificiales. Entre los asistentes de aquel encuentro de 2019, podemos rescatar algunos nombres. Ahmed Al-Tayeb, de quien podemos saber más leyendo Fratelli tutti; el rabino David Rosen, quien en 2011 dijo que rezaba todos los días para que se instituyera un estado Palestino que pudiera prosperar al lado de Israel; y, por último, el Patriarca Bartolomé, que mandó un mensaje en vídeo y de quien hemos hablado recientemente. Tres nombres que, junto al del papa Francisco, están relacionados con el diálogo y el encuentro. Probablemente, para hacer frente a los desafíos de la Inteligencia Artificial, necesitemos más perfiles de ese tipo y menos de los que requieren de una habitación aparte para guardar el ego que traen de casa.

 Ahora, en esta segunda parte del episodio, nos vamos a centrar no tanto en la Inteligencia Artificial en sí misma, sino en la presencia de Francisco en la cumbre del G7. ¿Qué hacía un líder religioso que está al frente de un estado diminuto hablando a quienes gobiernan el destino de millones de personas? Exploremos varios aspectos relacionados con esta pregunta.

 Comencemos con el hecho mismo de que no toda la gente que recibió el mensaje lo acogió con la misma aceptación. El papa abogó en su conjunto por una regulación de la Inteligencia Artificial que proteja la dignidad humana. Sin embargo, eso plantea serios dilemas morales que chocan contra algunas tendencias actuales.

 Para hacernos una idea general, podemos echar un vistazo a un texto del doctor John Danaher¹. En 2019 razonaba sobre los robots como sujetos merecedores de estatus moral, lo cual entronca directamente con el desarrollo de la Inteligencia Artificial. Este autor cuestionaba el hecho de que para merecer un estatus moral fuera suficiente con pertenecer a una categoría biológica. Es decir, que no bastaría con haber nacido humano para obtener estatus moral. Argumentaba que dicha adquisición por el mero nacimiento se basa en prejuicios biológicos injustificados y en el misterianismo. Según Danaher, lo moral se relaciona más con la conducta, de manera que si un robot, o una Inteligencia Artificial por analogía, se comporta de manera adecuada, entonces entra a formar parte de las entidades merecedoras de consideración moral.

 Este tipo de planteamientos y otros similares chocan de frente con la perspectiva cristiana porque abren la puerta a todo tipo de atropellos contra la vida. Cualquier ser humano que no encaje dentro de ciertos parámetros puede ser excluido de toda consideración moral y, por tanto, borrado de la existencia sin que surja dilema alguno.

 Por tanto, tomando en consideración que esas ideas y otras parecidas son mantenidas por muchas personas, la pregunta de “¿Qué hace el papa Francisco en la cumbre del G7?” la hacemos no tanto desde nuestro lado de la mesa, sino desde la otra parte. Porque, ¿cómo pudieron ser recibidas sus palabras que, precisamente, iban en la línea de limitar el desarrollo tecnológico si este atentaba contra la dignidad humana?

 Adicionalmente, la acogida asimétrica al discurso del pontífice en el G7 habría que entenderla también dentro del marco de algo que decía Henry Lemana II desde una universidad tailandesa². El año pasado publicó un análisis sobre varias homilías pronunciadas por Francisco durante la pandemia y concluyó que las palabras del papa cumplían varios propósitos:

• Enseñanza teológica.
• Llamada a la acción.
• Fomentar la respuesta comunitaria.
• Expresar emociones personales.

 Desde la perspectiva de Lemana, el papa usó las homilías para proyectar su poder e ideología. Cualquiera que conozca el propósito de una homilía podría llegar a ver esta deducción como tremendamente básica. Sin embargo, si descartamos la existencia de dicha manera de pensar, corremos el riesgo de ignorar el profundo desconocimiento que existe en la actualidad hacia todo lo relacionado con lo católico.

 Así, uniendo ambas premisas, la de la consideración moral de los robots y la de asumir que el papa transmite ideología cuando habla, nos queda más claro por qué algunos grupos se han podido rasgar las vestiduras cuando el sucesor de Pedro se dirigió a los gobernantes de los países más ricos.

 Estaba allí como invitado directo de Giorgia Meloni, la presidenta del consejo de ministros italiano y su presencia tiene más que ver con el llamado poder blando que con una supuesta injerencia católica en asuntos que no le competen.

 El poder blando se refiere a la capacidad de influir sobre otras personas por medio de la atracción y la persuasión que, en el caso concreto del papa Francisco, tiene que ver con cómo se ha convertido en una voz de autoridad mundial en cuestiones relacionadas con la dignidad humana.

 Un par de autores de California, Ricardo Crespo y Christina Gregory, analizaban esto en 2019³, en un artículo acerca de la “Doctrina de la misericordia” en el papado de Francisco. Según el texto, el pontífice ha utilizado su autoridad moral para influir en la política exterior global. Leemos lo siguiente:

Bergoglio asumió el papado tomando el novedoso nombre de Francisco y rápidamente estableció un nuevo enfoque en los asuntos internacionales, caracterizado por energía, carisma, humildad y una mente política aguda sobre cómo ejercer la autoridad moral tanto como líder temporal como espiritual de más de mil millones de católicos (y del mundo en general). Como observa Timothy A. Byrnes, “hoy estamos viendo a la Santa Sede y al Papa desempeñando roles aún más amplios en las relaciones internacionales que en el pasado” y cuyo “enfoque mediático en la celebridad global del papado ha reforzado la prominencia y el significado de un actor político que podría haberse esperado, como dice el dicho, que ya hubiera pasado de moda”.

 Aprovechando que se menciona que la figura del papa podría estar pasada de moda, vamos a hacer un pequeño viaje a dos momentos del pasado. Primero nos vamos a detener en 1901. En la primera revista literaria de los Estados Unidos, The North American Review, un diputado italiano respondía a unas palabras de un Arzobispo que afirmaba que el papa necesitaba un poder terrenal para poder ejercer su poder espiritual. El arzobispo en cuestión era John Ireland. El diputado decía⁴:

A monseñor Ireland no se le puede escapar el evidente hecho de que la autoridad del papado ha aumentado desde que perdió su poder temporal; sin embargo, él lo explica a partir de las cualidades del anciano papa; un argumento que no convence porque no se basa en los hechos. Es verdad que mucho se debe a las cualidades personales de León XIII, pero mucho también es debido a las de su predecesor. La austeridad con la que vivieron los dos últimos papas ha ejercido una gran influencia a la hora de mantener la autoridad del papado en el mundo; pero atribuir todo el prestigio de una institución divina, como la Iglesia, a las cualidades personales de su representante es una afirmación atrevida, especialmente en estos días tan críticos.

 En 1901, nuestros mayores ya se cuestionaban acerca de la influencia del pontífice. Ahora, continuamos nuestro viaje y retrocedemos unos pocos años más, hasta 1855, para poder profundizar en ese pensamiento del arzobispo Ireland. Casualmente viajamos hasta Irlanda. Allí se publicaba un periódico llamado The Catholic Layman que pretendía difundir un pensamiento libre de la influencia de la jerarquía católica. En abril del 55, publicaban este texto⁵:

Muchas de las grandes autoridades de la Iglesia de Roma han sostenido que el poder temporal de los reyes y príncipes está sometido al papa, quien tiene la autoridad de Dios para mandar sobre ellos e incluso de arrebatarles sus reinos. Algunos papas han reclamado y ejercido este poder; y ninguno lo ha negado desde entonces. Incluso aún se mantiene en el derecho canónico, como parte de la ley de la Iglesia de Roma, que es totalmente necesario para la salvación que toda criatura humana esté sujeta al Romano Pontífice. Por otro lado, los príncipes católicos romanos, como es natural, generalmente se resisten y niegan esta doctrina; y creemos que la mayoría de los laicos católicos romanos en la actualidad la rechazan y niegan. Esto implica serias cuestiones. O estos papas han reclamado falsamente tener un poder de Dios, que Dios nunca les dio; o bien un vasto número de católicos romanos han estado, y ahora están, resistiendo un poder que Dios ha dado a los papas.

 Y ahora regresamos al presente. A la semana pasada. El papa Francisco llegaba en silla de ruedas a la reunión donde estaban los dirigentes de las democracias más ricas del planeta. Después de la bienvenida del país anfitrión, antes de que comenzaran sus trabajos, el pontífice les dirigía unas palabras para orientar su toma de decisiones.

 Hemos visto que hay gente contraria a tratar la Inteligencia Artificial como una mera herramienta, argumentando que, en algún momento, serán sujetos de carácter moral. También hemos tenido en cuenta a quienes escuchan las palabras de Francisco como una vía para la propagación ideológica. En 1901, unos treinta años después de la desaparición de los Estados Pontificios, muchos católicos todavía añoraban un mayor poder terrenal de la Iglesia. Y 20 años antes de que desaparecieran dichos Estados Pontificios, en Irlanda se cuestionaban acerca de la potestad papal para coronar reyes y deponerlos.

 Con todo este contexto, es fácil confundir la presencia de Francisco en el G7. No estaba allí para hacer proselitismo. Tampoco para frenar el avance tecnológico. Y mucho menos para hacer alarde del poder terrenal de la Iglesia. Como decíamos antes, otra cosa distinta es que los egos de cada cual hayan permitido interiorizar otras perspectivas posibles.

 Por tanto, ¿qué hacía Francisco en el G7? Lo mismo que en Lampedusa, en la cárcel de mujeres de Venecia o en un encuentro con líderes de otras religiones: defender la dignidad humana.

Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana.