A comunidade internacional deve enfrentar urgentemente a nova realidade da inteligência artificial e generativa, enfatizam os palestrantes enquanto o Conselho de Segurança debate riscos e recompensas

A comunidade internacional deve confrontar urgentemente a nova realidade da inteligência generativa e de outras inteligências artificiais (IA), disseram hoje os oradores ao Conselho de Segurança na sua primeira reunião formal sobre o assunto, enquanto a discussão que se seguiu destacou a dualidade de risco e recompensa inerente a esta tecnologia emergente. .

António Guterres, Secretário-Geral das Nações Unidas, observando que a IA tem sido comparada à imprensa, observou que - embora tenham demorado mais de 50 anos para que os livros impressos se tornassem amplamente disponíveis em toda a Europa - “o ChatGPT atingiu 100 milhões de utilizadores em apenas dois meses". Apesar do seu potencial para impulsionar o desenvolvimento global e concretizar os direitos humanos, a IA pode amplificar preconceitos, reforçar a discriminação e permitir novos níveis de vigilância autoritária.

O advento da IA ​​generativa “poderá ser um momento decisivo para a desinformação e o discurso de ódio”, observou e, embora as questões de governação sejam complexas por várias razões, a comunidade internacional já tem pontos de entrada. A melhor abordagem seria enfrentar os desafios existentes e, ao mesmo tempo, criar capacidade para responder a riscos futuros, disse ele, e sublinhou a necessidade de “trabalhar em conjunto para uma IA que reduza as divisões sociais, digitais e económicas – e não uma que nos afaste ainda mais”.

Jack Clark, cofundador da Anthropic, observou que, embora a IA possa trazer enormes benefícios, também representa ameaças à paz, à segurança e à estabilidade global devido ao seu potencial de utilização indevida e à sua imprevisibilidade — duas qualidades essenciais dos sistemas de IA. Por exemplo, embora um sistema de IA possa melhorar a compreensão da biologia, também pode ser utilizado para construir armas biológicas. Além disso, uma vez desenvolvidos e implementados, as pessoas identificam utilizações novas e imprevistas para tais sistemas.

“Não podemos deixar o desenvolvimento da inteligência artificial apenas aos intervenientes do sector privado”, sublinhou, afirmando que os governos podem manter as empresas responsáveis ​​– e as empresas podem ganhar a confiança do mundo – através do desenvolvimento de sistemas de avaliação robustos e fiáveis. Sem esse investimento, a comunidade internacional corre o risco de entregar o futuro a um conjunto restrito de intervenientes do sector privado, alertou.

Também informando o Conselho, Yi Zeng, do Instituto de Automação da Academia Chinesa de Ciências, destacou que a IA atual são ferramentas de processamento de informações que, embora aparentemente inteligentes, não possuem compreensão real. “É por isso que, claro, não se pode confiar neles como agentes responsáveis ​​que podem ajudar os humanos a tomar decisões”, enfatizou. Tanto a IA a curto como a longo prazo acarretarão um risco de extinção humana simplesmente porque “não encontrámos uma forma de nos protegermos da utilização da fraqueza humana pela IA”, disse ele.

No debate que se seguiu, os membros do Conselho destacaram alternadamente as oportunidades transformadoras que a IA oferece para enfrentar os desafios globais e os riscos que representa — incluindo o seu potencial para intensificar conflitos através da propagação de desinformação e de operações cibernéticas maliciosas. Muitos, reconhecendo as aplicações militares da tecnologia, sublinharam a necessidade de manter o elemento de tomada de decisão humana em sistemas de armas autónomos. Os membros sublinharam também a necessidade de estabelecer um quadro ético e responsável para a governação internacional da IA.

Sobre isso, Omran Sharaf, Ministro Adjunto de Ciências e Tecnologia Avançadas dos Emirados Árabes Unidos, afirmou que há uma breve janela de oportunidade, disponível agora, onde as principais partes interessadas estão dispostas a unir-se e considerar os guardrails para esta tecnologia. Os Estados-Membros devem estabelecer regras comummente acordadas “antes que seja tarde demais”, sublinhou, apelando a mecanismos que evitem que as ferramentas de IA promovam o ódio, a desinformação e a desinformação que podem alimentar o extremismo e exacerbar o conflito.

O representante do Gana, acrescentando a isso, sublinhou que a comunidade internacional deve “restringir os excessos das ambições nacionais individuais de domínio combativo”. Instando o desenvolvimento de quadros que governem a IA para fins pacíficos, destacou a implantação dessa tecnologia pela Missão de Apoio das Nações Unidas na Líbia (UNSMIL). Utilizado para determinar a reacção do povo líbio às políticas, facilitou melhorias no Índice de Paz Global de 2022 daquele país, observou ele, ao mesmo tempo que alertou contra a integração da IA ​​em sistemas de armas autónomos.