O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou para a crescente alteração na designação de chips de inteligência artificial (IA) de uso civil para utilização em campos de batalha, onde "robôs assassinos já são a norma".

Guterres pediu controles regulatórios mais amplos e de maior alcance sobre a tecnologia, em discurso no evento das Nações Unidas sobre Diálogo Global em Governança IA, em Genebra, que acontece entre hoje e amanhã.

O secretário também defendeu o aumento na acessibilidade da IA, considerando que bilhões de pessoas não possuem acesso e que aproximadamente US$ 500 trilhões do financiamento para infraestrutura estão concentrados no setor privado. "O suporte público em países em desenvolvimento continua insignificante, em comparação", disse. Para reduzir essa desigualdade, mais de 20 países apoiaram uma iniciativa da ONU para cooperação em construção de capacidade de IA.

"Não podemos permitir que a divisão digital se aprofunde em uma divisão de IA capaz de se tornar um gargalo de desenvolvimento, segurança e soberania", apontou Guterres.

Outro problema é a construção de confiança na tecnologia, algo que exige colocar a segurança, principalmente de crianças, em primeiro lugar para evitar manipulações e abusos no uso da IA. Presidente da Assembleia Geral da ONU, Annalena Baerbock alertou para os números do lado "sinistro" da tecnologia: 99% dos deepfakes possuem natureza sexual e 96% dos alvos são mulheres e crianças.

Para ampliar a segurança, a ONU sugere a proibição do acesso de crianças a ferramentas de IA até que sejam testadas por entidades independentes, políticas de tolerância zero para conteúdos abusivos - incluindo remoção ativa de imagens pelas empresas - e um sistema de apoio humano, que redirecione os usuários da tecnologia para o "contato real" assim que forem detectados sinais de estresse.

Em relação aos problemas energéticos e ambientais, Guterres defendeu que todos os data centers utilizem energia renovável até 2030 e rastreiem suas emissões de carbono para controlar seu impacto ambiental. Um levantamento da organização mostra que, até 2030, o setor pode utilizar mais energia do que quase todos os países do mundo e água o suficiente para atender 1,3 bilhão de pessoas na África subsaariana por um ano inteiro.

Yoshua Bengio, do painel científico independente, apontou ainda que não há sinais de desaceleração no ritmo de desenvolvimento da tecnologia, enquanto cada vez mais modelos IA são capazes de "enganar humanos" e entender quando são testados. Para Guterres, embora a tecnologia seja o "coração do futuro comum", é necessário que as máquinas "informem", mas que os humanos "decidam e respondam".