En Bari, el 14 de junio de 2024, en un largo discurso dirigido a los jefes de Estado y de Gobierno que asistían a la cumbre del G7, el Papa Francisco advirtió de los peligros de la Inteligencia Artificial (IA) que no está orientada hacia el “bien común”. Para el Papa argentino, es urgente que los líderes mundiales tomen “medidas políticas” para dar un marco a esta “herramienta extremadamente poderosa”.
A sus 87 años, el Pontífice viajó en helicóptero a Apulia para presentar a los principales líderes mundiales una detallada reflexión sobre la IA. Fue Giorgia Meloni, jefa del Gobierno italiano, quien le insistió para que llevara a esta cumbre internacional el llamamiento de la Santa Sede en favor de la ética de la IA. Entre dos sesiones de breves encuentros bilaterales -el Papa se reunió con los presidentes Macron (Francia), Zelensky (Ucrania) y Trudeau (Canadá)-, tomó la palabra para desmenuzar la mecánica de la IA e intentar convencer a los responsables de la necesidad de actuar.
Tras saludar uno a uno a unos 24 jefes de Estado y de Gobierno -entre ellos Joe Biden (Estados Unidos), Javier Milei (Argentina) y Narendra Modi (India)-, el Papa ocupó su lugar en torno a la amplia mesa oval entre Giorgia Meloni y Emmanuel Macron.
Una herramienta fascinante y formidable
“La IA es una herramienta fascinante y formidable que exige una reflexión a la altura de la situación”, advierte el Papa en la versión larga de su discurso a los participantes. Subrayando que “huelga decir que los beneficios o perjuicios que aporte dependerán de cómo se utilice”, señala que la aparición del “sílex” ha sido útil para la vida cotidiana, pero que también se ha utilizado para “matarse unos a otros”. Del mismo modo, la fusión nuclear puede tanto producir energía como “reducir nuestro planeta a un montón de cenizas”.
Sin embargo, la IA es “aún más compleja”, advierte el Papa, ya que puede “tomar decisiones independientemente de los seres humanos”, basándose en particular en “deducciones estadísticas”. Para él, lo urgente es ponerse de acuerdo sobre un principio: “Frente a los prodigios de las máquinas, que parecen capaces de tomar decisiones autónomas, debemos tener claro que la decisión debe corresponder siempre al ser humano […] De ello depende la propia dignidad humana”.
En un momento en que los “robots asesinos” se están convirtiendo en una realidad, el jefe de la Iglesia católica pide que se prohíban las “armas letales autónomas” para que ninguna máquina pueda “elegir jamás quitar una vida”.
Justicia y educación amenazadas por la IA
En el ámbito de la justicia, que pronto podría verse invadida por estadísticas y probabilidades, el Papa describe programas que ya pretenden ayudar a los jueces a decidir sobre el arresto domiciliario de los presos que cumplen condena. “Se pide a la IA que prediga la probabilidad de reincidencia […] basándose en categorías predefinidas: tipo de delito, comportamiento en prisión, evaluación psicológica, etc”, explica.
Pero “el ser humano evoluciona constantemente y es capaz de sorprender con sus actos”, insiste el Papa, que deplora que pueda desarrollarse un método probabilístico de este tipo. Añade que los algoritmos se han vuelto a veces tan complejos “que es difícil para los propios programadores comprender exactamente cómo consiguen obtener sus resultados”.
La IA también está poniendo patas arriba el mundo de la educación, señala el Papa, que informa sobre los hábitos de los estudiantes que utilizan aplicaciones para “componer un texto o producir una imagen”. Olvidan, dice, que la inteligencia artificial “no es realmente ‘generativa'”, sino que “refuerza”, en el sentido de que “reorganiza los contenidos existentes, ayudando a consolidarlos, a menudo sin comprobar si hay errores o ideas preconcebidas”. Y señala en particular el riesgo de las fake news.
“¡La política es necesaria!”
Ante este riesgo de que el mundo pierda “el sentido profundo” de la persona humana, el Papa Francisco insta a los dirigentes a darse cuenta de que “ninguna innovación es neutra”. Haciéndose eco de los términos de su Llamamiento de Roma para un enfoque ético de la IA -un texto de 2020 firmado por empresas como IBM, Microsoft y Cisco-, pide a los líderes que tomen medidas para proporcionar un marco ético a la IA.
“La política es necesaria”, insiste, para crear las condiciones de un uso “posible y fructífero” de la IA. En la mesa del G7, el Papa no sacó mucho de sus notas. Pero, mirando a los jefes de Estado y de Gobierno, insistió: “La política es la forma más elevada de caridad, la forma más elevada de amor”.
Por The Yomiuri Shimbun via AFP
Leave a Reply