Desarmar la IA

Con la encíclica "Magnifica Humanitas" el Vaticano entendió que la IA no es solamente una revolución económica, sino una reorganización global del poder.

*Por Athiana Kelly 

Se necesita un código ético compartido sobre la IA

Durante buena parte del siglo XX, la Iglesia intervino en conflictos ligados al capitalismo industrial, el comunismo, la guerra nuclear o la cuestión social. Con el desplazamiento del centro del poder mundial hacia infraestructuras tecnológicas privadas capaces de administrar información, vigilancia, comunicación y hasta percepción de la realidad a escala planetaria, el Vaticano entendió que la IA no es solamente una revolución económica, sino una reorganización global del poder.

La Iglesia percibe que la IA no sólo transforma economías o Estados, sino que también altera la propia experiencia humana. Cambia la relación con el lenguaje, la atención, el conocimiento, la memoria, el trabajo y hasta la noción de verdad. Es decir, modifica aquello sobre lo que históricamente operaban la religión, la filosofía y la cultura. 

El Vaticano decide hablar ahora porque entiende que está emergiendo una nueva estructura civilizatoria antes de que exista todavía una ética capaz de gobernarla.

La encíclica “Magnifica Humanitas” sentó las bases de la moderna doctrina social de la iglesia, proponiendo una “tercera vía” entre el capitalismo liberal desenfrenado y el control estatal absoluto. En este caso sitúa las nuevas cuestiones sobre la dignidad humana, el trabajo, el bien común y analiza que el problema central de la IA es más civilizatorio que tecnológico.

Esta surge en un contexto donde los Estados Unidos impulsan una integración cada vez mayor entre IA, defensa y seguridad; y al mismo tiempo China desarrolla un modelo tecnonacionalista altamente centralizado. Ante esta situación el Vaticano busca posicionarse como la voz humanista frente a esta dos tendencias: El tecnocapitalismo privado norteamericano y el hipercontrol digital chino.

En el segundo capítulo, se enumeran los Fundamentos y principios de la Doctrina social de la Iglesia: entre los primeros, incluyen la dignidad de la persona, creada a imagen y semejanza de Dios.

Es necesario recordarlo, ya que "la presión de nuevas ideologías y de determinados intereses muy poderosos" puede reducir a la persona a "un recurso que se usa y se explota" o a "lo que realiza o produce". Por el contrario, la dignidad fundamental de cada persona no se adquiere, no debe ganarse ni necesita ser demostrada. 

Proteger la dignidad humana: la persona no es un recurso que se pueda explotar.

El segundo principio se refiere a la destinación universal de los bienes: insiste en la necesidad de que los conocimientos y las tecnologías no se concentren en manos de unos pocos, alimentando la brecha entre los incluidos y los excluidos de la revolución digital (67). 

La tecnología no debe concentrarse en manos de unos pocos.

El quinto principio de la DSI señalado es la justicia social: la era digital, debe garantizar a todos un acceso equitativo a las oportunidades, proteger a los más frágiles, combatir el odio y la desinformación, someter a control público el uso de los datos y las tecnologías, "de modo que el criterio no sea solo el lucro, sino la dignidad de cada persona y el bien de los pueblos".

Los migrantes, los refugiados y los desplazados, la forma en que la sociedad los trata demuestra "si la idea de justicia está guiada por el miedo o por la fraternidad". "el derecho a quedarse" de cada uno en su propia tierra en paz y seguridad, abordando "las causas profundas" de las migraciones. La justicia social y un examen decisivo con los migrantes.

En el tercer capítulo "Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA", León XIV advierte contra el "paradigma tecnocrático" ya denunciado por Francisco y por el cual toda elección viene dictada exclusivamente por parámetros de eficiencia y beneficios. Por el contrario, la tecnología más potente no es necesariamente la mejor: la IA puede imitar y simular al hombre, pero no posee conciencia moral, empatía, capacidad afectiva, relacional ni espiritual. Por lo tanto, es necesario abordar la IA con sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades de todas sus etapas (accountability) y apostando por políticas y marcos jurídicos adecuados, una supervisión independiente y la educación de los usuarios. Sin dejar de lado el impacto ambiental de las nuevas tecnologías, que requieren grandes cantidades de energía y agua, afectando a las emisiones de dióxido de carbono y dañando la Creación.

Se necesita un código ético sometido a criterios de justicia social compartida, porque "no sirve una IA más moral si esa moral la deciden unos pocos" .

Desarmar la IA y sustraerla de la lógica competitiva

Hay que "desarmar la IA", insiste León XIV, para sustraerla de la lógica de la competencia militar, económica y cognitiva; para romper la equivalencia entre poder técnico y derecho a gobernar; para sustraerla de los monopolios e impedir que domine al ser humano. Esta tarea es ética, técnica y ecológica porque la IA "ya es el entorno en el que estamos inmersos y el poder con el que debemos contar". Se dedica un amplio espacio a la crítica del transhumanismo y del poshumanismo, que interpretan el progreso como la superación de los límites de lo humano. En cambio, el límite no es un defecto que haya que eliminar, sino una dimensión constitutiva de la persona, porque "el ser humano no florece a pesar del límite, sino a menudo a través del límite", reconociendo en la fragilidad y en la finitud lugares en los que maduran la relación, el cuidado y la apertura a Dios y al otro.

Que el progreso de la técnica no haga retroceder el corazón

Hay mucho en juego: hacer crecer la técnica eliminando los límites de lo humano significa, de hecho, hacer retroceder el corazón. Magnífica y, sin embargo, herida, la humanidad "no debe ser sustituida ni superada". La tecnología puede aliviar sus sufrimientos y abrirle nuevas posibilidades, pero no debe negarla en lo que le es propio: "la capacidad de relación y de amor". Ante la IA, la verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos formas de construir el progreso: al servicio de la persona y de los pueblos o de las lógicas de poder. Una elección que nos concierne a todos: "la construcción de Babel o la de Jerusalén", las dos ciudades del hombre y de Dios, señaladas también por San Agustín, comienza por cada uno.

 

“Quien controla la IA impondrá su visión moral”, León XIV.