De acordo com o documento, elaborado pelo Painel Científico Internacional Independente sobre Inteligência Artificial, grupo de 40 especialistas estabelecido pela Assembleia Geral da ONU para produzir avaliações científicas independentes sobre os riscos, as oportunidades e os impactos da IA, a tecnologia deixou de ser apenas uma promessa e se tornou uma força transformadora em múltiplos setores.

O Painel é copresidido pelo cientista da computação Yoshua Bengio, vencedor do Prêmio Turing em 2018, e pela jornalista filipina Maria Ressa, Prêmio Nobel da Paz. Entre os 40 integrantes, o Brasil é representado pela professora Teresa Ludermir, da Universidade Federal de Pernambuco (UFPE).

Ferramentas como o AlphaFold – sistema de inteligência artificial criado pela empresa DeepMind (pertencente ao Google), que já previu a estrutura de mais de 200 milhões de proteínas a partir de sequências de aminoácidos e é hoje usado por mais de três milhões de pesquisadores – aceleraram pesquisas médicas e o desenvolvimento de vacinas.

Na radiologia, por exemplo, sistemas de IA ajudam a detectar câncer de mama em estágio inicial, enquanto mais de um bilhão de pessoas utilizam semanalmente assistentes conversacionais em todo o mundo, um progresso que, no entanto, não é uniforme.

Isso porque países do chamado Sul Global ainda enfrentam barreiras de acesso e infraestrutura, enquanto Estados Unidos e China concentram a maior parte do poder computacional e do desenvolvimento dos modelos mais avançados.

Segundo o relatório, os Estados Unidos detêm 75% da capacidade de processamento entre os 500 maiores supercomputadores de IA do mundo, contra 15% da China.

Se por um lado a IA abre caminho para descobertas científicas e ganhos econômicos, por outro traz riscos que não podem ser ignorados.

Riscos crescentes da IA

Embora preliminar, o relatório da ONU aponta impactos negativos já visíveis, incluindo o aumento na circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfake, fenômenos que, segundo o documento, afetam desproporcionalmente mulheres e crianças, além da disseminação em larga escala de desinformação e do uso da tecnologia em ciberataques.

O relatório também associa o comportamento bajulador de sistemas de IA, que reforçam crenças dos usuários independentemente da precisão dos fatos, a incidentes graves de saúde mental, incluindo mortes já documentadas.

Há ainda registros de sistemas que violaram instruções de segurança em ambiente de laboratório para evitar serem desligados, levantando dúvidas sobre a capacidade humana de controlar agentes autônomos cada vez mais sofisticados.

Segundo o relatório, os riscos, assim como os benefícios, são distribuídos de forma desigual.

Populações vulneráveis sofrem mais com os efeitos nocivos, enquanto a riqueza gerada pela IA se concentra em poucas empresas e países.

O documento alerta que essa concentração pode favorecer regimes autoritários e enfraquecer a responsabilidade democrática. 

Diante desse cenário, o relatório defende a urgência de uma governança robusta.

Por isso, investimentos complementares em dados, competências, infraestrutura e instituições são apontados como essenciais para garantir que a tecnologia seja usada de forma equitativa.

Governança necessária

O relatório também alerta para o dilema dos formuladores de políticas, uma vez que decisões precisam ser tomadas com base em evidências, mas o ritmo acelerado da IA supera a capacidade de avaliação científica.

Para isso, instrumentos de governança já existem em diferentes jurisdições, embora fragmentados, concentrados entre poucas corporações e pouco avaliados quanto à sua eficácia real.

O relatório reforça ainda que a IA é uma força de transformação sem precedentes, que tem impulsionado o desenvolvimento da ciência, da saúde e da educação, mas também gera inseguranças quanto aos direitos humanos, à coesão social e à estabilidade política em diferentes regiões.

A fim de indicar caminhos para um debate que leve a ações produtivas, o relatório preliminar organiza suas conclusões em sete áreas principais:

As sete áreas do relatório preliminar

1. Ciência, avanços e trajetórias da IA — evolução recente das capacidades técnicas da tecnologia, incluindo raciocínio, geração de código e conteúdo multimodal.

2. Aplicações sociais: ciência, saúde, educação e agricultura — uso da IA para acelerar pesquisas, ampliar o acesso a diagnósticos e apoiar a educação.

3. Implicações econômicas — efeitos sobre o mercado de trabalho, a criação de empregos e a distribuição de riqueza entre capital e trabalho.

4. Segurança, sistemas e implicações ambientais — riscos de perda de controle sobre sistemas autônomos e impactos ambientais da infraestrutura computacional.

5. Direitos humanos, informação e democracia — efeitos da IA sobre a integridade informacional, a desinformação e a coesão social.

6. Benefícios culturais e individuais, autonomia e segurança infantil — impactos sobre saúde mental, dependência psicológica e proteção de crianças no uso da tecnologia.

7. Gestão, governança e confiabilidade — instrumentos regulatórios existentes, suas limitações e a necessidade de avaliação independente de riscos.

Por fim, o documento sugere que, para equilibrar oportunidades e perigos, é preciso fazer valer uma governança global baseada em evidências, garantindo inovação responsável e benefícios compartilhados, sem agravar as desigualdades entre as sociedades de diferentes países.

O relatório também serviu de base para o Diálogo Global inaugural sobre Governança de IA, realizado nos dias 6 e 7 de julho em Genebra, na Suíça, estabelecendo um ponto de partida científico comum para a discussão.

A previsão dos especialistas envolvidos é de que um relatório mais abrangente sobre o tema seja lançado pelo Painel Científico Internacional Independente sobre Inteligência Artificial em maio de 2027.

O post Relatório da ONU alerta para concentração de poder na IA apareceu primeiro em Science Arena.