O Papa alertou para os riscos de uma tecnologia digital que “simula” a realidade humana, pedindo a proteção dos “rostos e vozes” contra a manipulação da inteligência artificial (IA).
“O desafio, portanto, não é tecnológico, mas antropológico. Proteger os rostos e as vozes significa, em última análise, proteger-nos a nós mesmos”, escreve Leão XIV, na mensagem para o 60.º Dia Mundial das Comunicações Sociais, que se celebra hoje.
Este domingo, na recitação da oração do ‘Regina Caeli’, o Papa recordou a celebração.
“Nesta era da inteligência artificial, encorajo todos a empenharem-se na promoção de formas de comunicação que respeitem sempre a verdade do homem, para a qual deve orientar-se toda a inovação tecnológica”, disse, desde a janela do apartamento pontifício.
Já a mensagem para esta jornada, divulgada a 24 de janeiro, advertia que os sistemas de IA, ao simularem “sabedoria, conhecimento, consciência e responsabilidade”, invadem o nível mais profundo da relação entre pessoas.
“A tecnologia digital, se falharmos nessa proteção, corre o risco de alterar radicalmente alguns dos pilares fundamentais da civilização humana que, muitas vezes, temos como assegurados”, sustenta o Papa.
Leão XIV denuncia a “confiança ingenuamente acrítica” na IA como um “oráculo”, sublinhando que o recurso sistemático a uma compilação estatística artificial, corre o risco, a longo prazo, de corroer “as capacidades cognitivas”.
“A confiança do público conquista-se com precisão, com transparência, não com a busca de qualquer tipo de envolvimento. Os conteúdos gerados ou manipulados pela IA devem ser sinalizados e claramente distinguidos dos conteúdos criados por pessoas”, afirmou.
O texto aborda o fenómeno dos “chatbots” e assistentes virtuais, alertando para a “antropomorfização” enganadora que pode tornar estas ferramentas em “arquitetos ocultos” de estados emocionais, especialmente perante pessoas vulneráveis.
“Sem a aceitação da alteridade, não pode haver nem relação nem amizade”, aponta Leão XIV, criticando a criação de um mundo de espelhos onde tudo é feito “à nossa imagem”.
A mensagem identifica ainda os perigos dos “deepfakes” e da desinformação, num cenário onde a IA pode fabricar “realidades paralelas” e apropriar-se da identidade das pessoas.
“Estamos imersos numa multidimensionalidade, onde se torna cada vez mais difícil distinguir a realidade da ficção”, observa.
“Há muito tempo que existem múltiplas evidências de que os algoritmos projetados para maximizar o envolvimento nas redes sociais – lucrativo para as plataformas – recompensam as emoções rápidas e penalizam, em contrapartida, as expressões humanas que requerem mais tempo, como o esforço de compreensão e a reflexão” disse ainda.
Para enfrentar estes desafios, o Papa propõe uma “aliança” baseada em três pilares: responsabilidade, cooperação e educação.
A mensagem exige “transparência” aos criadores de algoritmos e pede aos legisladores uma regulamentação que proteja a dignidade humana e contenha a difusão de conteúdos falsos.
Aos sistemas educativos, Leão XIV solicita a introdução urgente da “literacia para os meios de comunicação, a informação e a IA”, para que as novas gerações desenvolvam o pensamento crítico e saibam proteger a sua privacidade.
“Renunciar ao processo criativo e ceder às máquinas as nossas funções mentais e a nossa imaginação significa enterrar os talentos que recebemos”, conclui o Papa, apelando a que o rosto e a voz voltem a “expressar a pessoa”.
O Dia Mundial das Comunicações Sociais é a única celebração do género estabelecida pelo Concílio Vaticano II, no decreto ‘Inter Mirifica’, em 1963; assinala-se, em cada ano, no domingo antes do Pentecostes – 17 de maio, em 2026.
A mensagem para a celebração é tradicionalmente publicada no dia da memória litúrgica de São Francisco de Sales, padroeiro dos jornalistas.
(Com Ecclesia e Vatican media)