‘Inteligência Artificial e Paz’
“Inteligência Artificial e Paz” é o tema da Mensagem do Papa Francisco para o 57º Dia Mundial da Paz, a ser celebrado em 1º de janeiro de 2024.
Composta por oito capítulos, primeiramente, o Santo Padre se debruça sobre o progresso da ciência e da tecnologia como um caminho para a paz e reflete sobre o futuro da Inteligência Artificial (IA).
O Papa também aborda a dimensão ética da IA, incluindo questões de privacidade, preconceito e seu impacto na dignidade humana, e incentiva a abordagem dos desafios para a educação e o desenvolvimento do direito internacional.
O Santo Padre também aponta alguns dos riscos potenciais da IA, como a desinformação e o controle social, entre outros, e, portanto, enfatiza a necessidade de um desenvolvimento responsável, de regulamentação e de monitoramento das tecnologias de IA, para que ela esteja a serviço da família humana e da proteção da nossa casa comum.
A mensagem do Papa Francisco realça os contributos positivos da ciência e da tecnologia para o progresso da Humanidade, alertando, no entanto, para os riscos potenciais colocados pelos avanços da Inteligência Artificial (IA). Analisa as dimensões éticas da IA, incluindo preocupações relacionadas com a privacidade, preconceitos e impacto na dignidade humana. A mensagem salienta a necessidade de um desenvolvimento, regulamentação e supervisão responsáveis das tecnologias de IA, identificando riscos potenciais em áreas como desinformação, controle social, Forças Armadas, educação, mercado de trabalho e direito internacional.
O Papa apela a um diálogo multidisciplinar, ao desenvolvimento ético de algoritmos (“algoética”) e à inclusão de diferentes vozes nos processos de tomada de decisões. Ao recordar-nos que a medida da nossa verdadeira humanidade está na forma como tratamos os mais pequenos entre nós, o Papa conclui com uma visão de esperança de que o desenvolvimento da IA possa contribuir para a fraternidade humana e a paz mundial: «pois a paz é o fruto de relações que reconhecem e acolhem os outros na sua dignidade inalienável e de uma cooperação e compromisso sinceros na busca do desenvolvimento integral de todos os indivíduos e povos».
Capítulo 1: O progresso da ciência e da tecnologia como caminho para a paz
A ciência e a tecnologia, realizações da inteligência humana, constituem um testemunho do nosso potencial criativo. Contudo, há certos riscos que devemos considerar e em relação aos quais devemos agir, de modo a que este progresso seja um caminho para a paz para todos.
Capítulo 2: O futuro da inteligência artificial entre promessa e risco
O avanço da tecnologia, nomeadamente da inteligência artificial (IA), está a transformar significativamente o mundo em que vivemos (as ferramentas digitais plasmam a forma como comunicamos, aprendemos e interagimos na nossa vida cotidiana). Nos bastidores, os algoritmos da internet recolhem dados e influenciam os nossos hábitos sem que nós sequer nos apercebamos.
É importante reconhecer que o desenvolvimento da IA não é neutro; é influenciado por valores culturais e escolhas. A IA não é um termo de formato único; engloba diversas tecnologias que tentam imitar as capacidades cognitivas humanas. Precisamos de ações responsáveis orientadas por valores como transparência, segurança e equidade. Não podemos simplesmente pressupor que os criadores da IA têm em mente os nossos melhores interesses.
Devemos promover um desenvolvimento responsável da tecnologia crescente, tendo em conta a dignidade humana e o bem-estar de todos.
Capítulo 3: A tecnologia do futuro: máquinas que aprendem sozinhas
A Inteligência Artificial, em particular através da aprendizagem automática, já está a transformar sociedades e a influenciar culturas.
Embora ofereça possibilidades aliciantes, a sua fiabilidade suscita algumas preocupações, uma vez que os dispositivos de IA podem produzir conteúdos aparentemente coerentes, porém enganosos. Este fato coloca sérios desafios, desde campanhas de desinformação até riscos para a privacidade e discriminação, fomentando potencialmente conflitos e dificultando o caminho para a paz. A análise responsável destes desafios é crucial para assegurar o impacto positivo da IA no nosso mundo.
Capítulo 4: O sentido do limite, no paradigma tecnocrático
O enorme volume de dados analisados por inteligências artificiais não garante imparcialidade; os algoritmos podem perpetuar preconceitos e injustiças existentes na sua origem. As máquinas “inteligentes”, embora eficientes, são, em última análise, dirigidas por valores humanos. O risco reside em critérios decisórios pouco claros, responsabilidade oculta e uma possível fuga a obrigações de caráter comunitário. A busca obsessiva de superar limites através da tecnologia pode conduzir a uma “ditadura tecnológica” e a uma perda de controle sobre nós próprios.
Capítulo 5: Temas quentes para a ética
Sistemas de categorização e avaliação de indivíduos, se gerenciados por inteligência artificial, conferem a essa a capacidade de controlar e influenciar o tecido social, com o risco de causar desigualdades e gerar conflitos de poder. Os princípios da ética, os valores essenciais da pessoa humana e seus direitos fundamentais não podem ser determinados e avaliados por algoritmos, mas por pessoas, com os respectivos instrumentos de monitoramento e atribuição de responsabilidade.
Capítulo 6: Transformaremos as espadas em relhas de arado?
A intrusão da IA no local de trabalho suscita riscos para a própria subsistência, exigindo um enfoque na dignidade intrínseca do trabalho.
Colocam-se igualmente questões éticas no setor do armamento, em especial com o desenvolvimento dos Sistemas de Armas Autônomas Letais. Torna-se essencial uma supervisão humana adequada — os sistemas de armas autônomas nunca podem ser sujeitos moralmente responsáveis.
A Inteligência Artificial, utilizada eticamente, pode promover o desenvolvimento humano, através da introdução de inovações na agricultura, educação e cultura. A medida da verdadeira humanidade está na forma como tratamos os mais pequenos entre nós.
Capítulo 7: Desafios para a educação
O desenvolvimento de uma tecnologia que respeite e sirva a dignidade humana tem ramificações claras para as nossas instituições de ensino e para o mundo da cultura.
O ensino sobre a utilização de formas de Inteligência Artificial deveria visar, sobretudo, a promoção do pensamento crítico.
Capítulo 8: Desafios para o desenvolvimento do Direito internacional
A família humana deve também considerar a ameaça do desenvolvimento e utilização irresponsáveis da IA e, por conseguinte, a necessidade de sistemas adequados de regulamentação e supervisão.
A comunidade global das nações devia colaborar com vista à adoção de um tratado internacional vinculativo que regulamente o desenvolvimento e utilização da Inteligência Artificial nas suas múltiplas formas.
Na busca de modelos normativos suscetíveis de proporcionar orientação ética aos criadores de tecnologias digitais, é indispensável identificar os valores humanos que devem sustentar os esforços das sociedades para formular, adotar e implementar os sistemas regulamentares em questão.
Fonte: Dicastério para o Serviço do Desenvolvimento Humano Integral
