La Inteligencia Artificial es el centro del mensaje que comienza así:
“Queridos hermanos y hermanas: la evolución de los sistemas de la así llamada ‘inteligencia artificial’, sobre la que ya reflexioné en mi reciente Mensaje para la Jornada Mundial de la Paz, también está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil”.
Fake news y deep fakes, echo chambers, machine learning, social media. Nuevas herramientas, nuevos canales, nuevas oportunidades pero, al mismo tiempo, nuevas "patologías" y trampas, especialmente para el campo de la comunicación, que corre el riesgo de acabar sometido a la "contaminación cognitiva", es decir, a la alteración de la realidad a través de narraciones falsas, mensajes de voz falsos y fotografías falsas (incluso el Papa ha sido objeto de esto), o a la anulación del valioso papel de los reporteros sobre el terreno, especialmente en escenarios de guerra.
“El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación”
No endurecerse ante lo nuevo, sino permanecer sensibles a lo que no es humano
Ante la acelerada difusión de "inventos maravillosos" que suscitan "un asombro que oscila entre el entusiasmo y la desorientación", el Papa invita a preguntarse: "¿Cómo permanecer plenamente humanos y orientar hacia el bien el cambio cultural en curso?".
Mientras tanto, "hay que despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes"; por tanto, como dice Romano Guardini, "no hay que endurecerse contra lo 'nuevo' para intentar preservar un mundo bello condenado a desaparecer". Al mismo tiempo, sin embargo, hay que permanecer "sensibles" a todo lo que es "destructivo" y "no humano".
Es decir, hay que recomenzar desde el corazón "en esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad". Necesitamos sabiduría, prosigue Francisco, y no podemos exigírsela a las máquinas.
No se trata, pues, de exigir que las máquinas parezcan humanas; sino más bien de despertar al hombre de la hipnosis en la que ha caído debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial, separado de todo vínculo social y ajeno a su creaturalidad”
El peligro de las fake news
Es una antigua tentación del hombre "llegar a ser como Dios sin Dios". Y "toda extensión técnica del hombre puede ser instrumento de servicio amoroso o de dominación hostil", subraya el Papa.
“Los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes" Pero también pueden ser instrumentos de "contaminación cognitiva", es decir, aquellas fake news que se sirven del deep fake, de la "creación" y "difusión de imágenes que parecen perfectamente verosímiles pero que son falsas a mí también me ha pasado)", o de "mensajes de audio que utilizan la voz de una persona diciendo cosas que esa misma persona nunca ha dicho". La simulación en su base "se vuelve perversa cuando distorsiona la relación con los demás y con la realidad", advierte el Pontífice.
Oportunidades y riesgos de lqs redes sociales
El Papa también se detiene en las redes sociales, que son "herramientas que en las manos equivocadas podrían abrir escenarios negativos".
"Como todo lo que ha salido de la mente y de las manos del hombre, también los algoritmos no son neutros", señala Francisco, y pide una "acción preventiva", proponiendo modelos de regulación ética.
El llamamiento se dirige de nuevo a la comunidad internacional para que formule "un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas".
“Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas”