O Papa denuncia, na sua mensagem para o Dia Mundial da Paz 2024, divulgada hoje, os riscos de sistemas de regulação das “opções pessoais” baseados em algoritmos, com riscos de manipulação de indivíduos e sociedades.
“Estas formas de manipulação ou controlo social requerem atenção e vigilância cuidadosas, implicando uma clara responsabilidade legal por parte dos produtores, de quem os contrata e das autoridades governamentais”, escreve, num texto intitulado ‘Inteligência Artificial e Paz’.
Numa reflexão sobre os sistemas de inteligência artificial, Francisco observa que estes estão suscetíveis a difundir “formas de preconceito e discriminação”.
“Além disso, por vezes, as formas de inteligência artificial parecem capazes de influenciar as decisões dos indivíduos através de opções predeterminadas associadas a estímulos e dissuasões”, acrescenta.
A mensagem alerta para o “uso invasivo da vigilância ou da adoção de sistemas de crédito social.
Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado”.
O Papa aponta ao impacto das novas tecnologias no âmbito laboral, pedindo que os responsáveis políticos promovam “o respeito pela dignidade dos trabalhadores e a importância do emprego para o bem-estar económico das pessoas, das famílias e das sociedades, a estabilidade dos empregos e a equidade dos salários”.
Francisco alude aos desafios para a educação, colocados pela utilização de formas de inteligência artificial, defendendo a “promoção do pensamento crítico”.
“Falar de ‘formas de inteligência’, no plural, pode ajudar sobretudo a assinalar o fosso intransponível existente entre estes sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana”, acrescenta.
A mensagem sublinha a necessidade de instituir organismos internacionais que possam “examinar as questões éticas emergentes e tutelar os direitos” das pessoas.
“A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem estar na base do desenvolvimento de novas tecnologias”, insiste Francisco.
O Papa assume que a inteligência artificial se vai tornar “cada vez mais importante”, levantando desafios “não apenas de ordem técnica, mas também antropológica, educacional, social e política”.
“Deste modo, os progressos notáveis das novas tecnologias da informação, sobretudo na esfera digital, apresentam oportunidades entusiasmantes, mas também grave risco, com sérias implicações na prossecução da justiça e da harmonia entre os povos”, prossegue.
O Dia Mundial da Paz foi instituído em 1968 por São Paulo VI (1897-1978) e é celebrado no primeiro dia de cada ano, com uma mensagem papal.
“Espero que esta reflexão encoraje a fazer com que os progressos no desenvolvimento de formas de inteligência artificial sirvam, em última análise, a causa da fraternidade humana e da paz”, apela Francisco.
Mensagem para o Dia Mundial da Paz 2024 fala em “graves questões éticas” ligadas a este tema, sobretudo quando relacionadas com questões militares
“A possibilidade de efetuar operações militares através de sistemas de controle remoto levou a uma perceção menor da devastação por eles causada e da responsabilidade da sua utilização, contribuindo para uma abordagem ainda mais fria e destacada da imensa tragédia da guerra”, refere o texto, intitulado ‘Inteligência Artificial e Paz’.
Francisco alerta para as “graves questões éticas relacionadas com o setor dos armamentos”, em particular os sistemas de armas letais autónomas.
“Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de julgamento moral e de decisão ética é mais do que um conjunto complexo de algoritmos, e tal capacidade não pode ser reduzida à programação duma máquina”, advertiu.
O Papa observa que armas sofisticadas podem cair “em mãos erradas”.
“O mundo não precisa realmente que as novas tecnologias contribuam para o iníquo desenvolvimento do mercado e do comércio das armas, promovendo a loucura da guerra”, acrescenta.
Se a inteligência artificial fosse utilizada para promover o desenvolvimento humano integral, poderia introduzir inovações importantes na agricultura, na instrução e na cultura, uma melhoria do nível de vida de inteiras nações e povos, o crescimento da fraternidade humana e da amizade social”.
A mensagem aponta desafios colocados, neste setor, ao desenvolvimento do direito internacional.
“Exorto a Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas”, escreve o Papa.
Francisco sustenta que esta reflexão deve ter em consideração “questões mais profundas relativas ao significado da existência humana, à proteção dos direitos humanos fundamentais, à busca da justiça e da paz”.
O texto aponta a um “sentido do limite, no paradigma tecnocrático”, defendendo um “desenvolvimento ético dos algoritmos”.
“A grande quantidade de dados analisados pelas inteligências artificiais não é, por si só, garantia de imparcialidade”, alerta o pontífice.
A confidencialidade, a posse dos dados e a propriedade intelectual são outros âmbitos em que as tecnologias em questão comportam graves riscos, aos quais se vêm juntar outras consequências negativas ligadas a um uso indevido, como a discriminação, a interferência nos processos eleitorais”.
O Papa mostra-se crítico de um sistema “tecnocrático”, que alia a economia à tecnologia e privilegia o critério da eficiência, “tendendo a ignorar tudo o que não esteja ligado aos seus interesses imediatos”.
A mensagem aborda as questões levantadas pelas “máquinas que aprendem sozinhas”, que transcendem os âmbitos da tecnologia e da engenharia, colocando-as em ligação com “uma compreensão intimamente ligada ao significado da vida humana”.
O Dia Mundial da Paz foi instituído em 1968 por São Paulo VI (1897-1978) e é celebrado no primeiro dia de cada ano, com uma mensagem papal.
“No início do novo ano, a minha oração é que o rápido desenvolvimento de formas de inteligência artificial não aumente as já demasiadas desigualdades e injustiças presentes no mundo, mas contribua para pôr fim às guerras e conflitos e para aliviar muitas formas de sofrimento que afligem a família humana”, conclui Francisco.
(Com Ecclesia)