SOBRE
#Notícias

Relatório da ONU alerta para concentração de poder na IA

Primeira avaliação científica global sobre inteligência artificial destaca avanços na ciência e na saúde, mas aponta riscos, desigualdades e falhas de governança

Imagem alusiva a um ser humano com uma balança virtual na mão, frente ao desafio de manter a equidade no uso de inteligência artificial em diferentes áreas  A concentração de poder computacional entre poucos países amplia desigualdades já existentes no acesso à inteligência artificial | Imagem: Shutterstock 

A primeira avaliação científica global sobre inteligência artificial (IA) foi divulgada em 1º de julho pela Organização das Nações Unidas (ONU), em um relatório inédito que aponta avanços acelerados da tecnologia, mas também desigualdades e concentração de poder em poucos países e empresas.

De acordo com o documento, elaborado pelo Painel Científico Internacional Independente sobre Inteligência Artificial, grupo de 40 especialistas estabelecido pela Assembleia Geral da ONU para produzir avaliações científicas independentes sobre os riscos, as oportunidades e os impactos da IA, a tecnologia deixou de ser apenas uma promessa e se tornou uma força transformadora em múltiplos setores.

O Painel é copresidido pelo cientista da computação Yoshua Bengio, vencedor do Prêmio Turing em 2018, e pela jornalista filipina Maria Ressa, Prêmio Nobel da Paz. Entre os 40 integrantes, o Brasil é representado pela professora Teresa Ludermir, da Universidade Federal de Pernambuco (UFPE).

Em versão preliminar, o relatório mostra que os avanços são rápidos e já impactam a educação e a economia, mas também a ciência e a saúde.

Ferramentas como o AlphaFold – sistema de inteligência artificial criado pela empresa DeepMind (pertencente ao Google), que já previu a estrutura de mais de 200 milhões de proteínas a partir de sequências de aminoácidos e é hoje usado por mais de três milhões de pesquisadores – aceleraram pesquisas médicas e o desenvolvimento de vacinas.

Na radiologia, por exemplo, sistemas de IA ajudam a detectar câncer de mama em estágio inicial, enquanto mais de um bilhão de pessoas utilizam semanalmente assistentes conversacionais em todo o mundo, um progresso que, no entanto, não é uniforme.

Isso porque países do chamado Sul Global ainda enfrentam barreiras de acesso e infraestrutura, enquanto Estados Unidos e China concentram a maior parte do poder computacional e do desenvolvimento dos modelos mais avançados.

Segundo o relatório, os Estados Unidos detêm 75% da capacidade de processamento entre os 500 maiores supercomputadores de IA do mundo, contra 15% da China.

A disparidade no uso de IA entre os países reflete desigualdades históricas e, segundo o documento da ONU, pode ampliá-las, criando um cenário em que poucos atores controlam os rumos da tecnologia.

Se por um lado a IA abre caminho para descobertas científicas e ganhos econômicos, por outro traz riscos que não podem ser ignorados.

Riscos crescentes da IA

Embora preliminar, o relatório da ONU aponta impactos negativos já visíveis, incluindo o aumento na circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfake, fenômenos que, segundo o documento, afetam desproporcionalmente mulheres e crianças, além da disseminação em larga escala de desinformação e do uso da tecnologia em ciberataques.

O relatório também associa o comportamento bajulador de sistemas de IA, que reforçam crenças dos usuários independentemente da precisão dos fatos, a incidentes graves de saúde mental, incluindo mortes já documentadas.

Há ainda registros de sistemas que violaram instruções de segurança em ambiente de laboratório para evitar serem desligados, levantando dúvidas sobre a capacidade humana de controlar agentes autônomos cada vez mais sofisticados.

Segundo o relatório, os riscos, assim como os benefícios, são distribuídos de forma desigual.

Populações vulneráveis sofrem mais com os efeitos nocivos, enquanto a riqueza gerada pela IA se concentra em poucas empresas e países.

O documento alerta que essa concentração pode favorecer regimes autoritários e enfraquecer a responsabilidade democrática. 

Diante desse cenário, o relatório defende a urgência de uma governança robusta.

Políticas públicas precisam assegurar empregos sustentáveis, proteger populações vulneráveis e preservar culturas e línguas diante da homogeneização tecnológica, sugere o relatório da ONU.

Por isso, investimentos complementares em dados, competências, infraestrutura e instituições são apontados como essenciais para garantir que a tecnologia seja usada de forma equitativa.

Governança necessária

O relatório também alerta para o dilema dos formuladores de políticas, uma vez que decisões precisam ser tomadas com base em evidências, mas o ritmo acelerado da IA supera a capacidade de avaliação científica.

Para isso, instrumentos de governança já existem em diferentes jurisdições, embora fragmentados, concentrados entre poucas corporações e pouco avaliados quanto à sua eficácia real.

Sem coordenação global, o risco é que a tecnologia avance mais rápido do que a capacidade de regulação, destacam os especialistas do Painel.

O relatório reforça ainda que a IA é uma força de transformação sem precedentes, que tem impulsionado o desenvolvimento da ciência, da saúde e da educação, mas também gera inseguranças quanto aos direitos humanos, à coesão social e à estabilidade política em diferentes regiões.

A fim de indicar caminhos para um debate que leve a ações produtivas, o relatório preliminar organiza suas conclusões em sete áreas principais:

As sete áreas do relatório preliminar

1. Ciência, avanços e trajetórias da IA — evolução recente das capacidades técnicas da tecnologia, incluindo raciocínio, geração de código e conteúdo multimodal.

2. Aplicações sociais: ciência, saúde, educação e agricultura — uso da IA para acelerar pesquisas, ampliar o acesso a diagnósticos e apoiar a educação.

3. Implicações econômicas — efeitos sobre o mercado de trabalho, a criação de empregos e a distribuição de riqueza entre capital e trabalho.

4. Segurança, sistemas e implicações ambientais — riscos de perda de controle sobre sistemas autônomos e impactos ambientais da infraestrutura computacional.

5. Direitos humanos, informação e democracia — efeitos da IA sobre a integridade informacional, a desinformação e a coesão social.

6. Benefícios culturais e individuais, autonomia e segurança infantil — impactos sobre saúde mental, dependência psicológica e proteção de crianças no uso da tecnologia.

7. Gestão, governança e confiabilidade — instrumentos regulatórios existentes, suas limitações e a necessidade de avaliação independente de riscos.

Por fim, o documento sugere que, para equilibrar oportunidades e perigos, é preciso fazer valer uma governança global baseada em evidências, garantindo inovação responsável e benefícios compartilhados, sem agravar as desigualdades entre as sociedades de diferentes países.

O relatório preliminar consolida evidências científicas independentes, reunidas por especialistas de todas as regiões do mundo, para orientar as decisões dos governos sobre o tema.

O relatório também serviu de base para o Diálogo Global inaugural sobre Governança de IA, realizado nos dias 6 e 7 de julho em Genebra, na Suíça, estabelecendo um ponto de partida científico comum para a discussão.

A previsão dos especialistas envolvidos é de que um relatório mais abrangente sobre o tema seja lançado pelo Painel Científico Internacional Independente sobre Inteligência Artificial em maio de 2027.

* É permitida a republicação das reportagens e artigos em meios digitais de acordo com a licença Creative Commons CC-BY-NC-ND.
O texto não deve ser editado e a autoria deve ser atribuída, incluindo a fonte (Science Arena).

Notícias

0 Comentários
Oldest
Newest Most Voted
Receba nossa newsletter

Newsletter

Receba nossos conteúdos por e-mail. Preencha os dados abaixo para assinar nossa newsletter

Captcha obrigatório
Seu e-mail foi cadastrado com sucesso!
Cadastre-se na Newsletter do Science Arena