A inteligência artificial, IA, pode beneficiar toda a humanidade de forma segura, justa e sem causar “danos catastróficos”? Essa é a questão central de um encontro de cúpula da ONU, que começa em Genebra, nesta segunda-feira.
Governos, empresas de tecnologia, acadêmicos e a sociedade civil vão se reunir por dois dias no Diálogo Global sobre Governança da IA, debatendo formas de regular uma tecnologia que evolui mais rapidamente do que as normas destinadas a contê-la.
Oportunidade de cooperação
O secretário-geral da ONU, António Guterres, e a presidente da Assembleia Geral, Annalena Baerbock, também participam do evento.
Será a primeira vez em que todos os países terão um lugar à mesa para tratar da governança da IA e explorar oportunidades de cooperação neste tema.
Para preparar o terreno, foi divulgado na última quarta-feira o relatório preliminar do Painel Científico Internacional Independente criado pela ONU, formado por 40 especialistas de todo o globo.
O documento, debatido no encontro em Genebra, afirma que, se utilizada de forma responsável, a IA pode trazer benefícios transformadores para pessoas em todo o mundo. No entanto, há também receios de que essa tecnologia revolucionária esteja criando novos perigos.
“Armagedon da informação”
A ONU News ouviu os dois copresidentes do painel, a jornalista filipina e ganhadora do Prêmio Nobel da Paz, Maria Ressa, e o cientista da computação franco-canadense, Yoshua Bengio.
Maria Ressa lembrou que a primeira geração de IA foi utilizada nas redes sociais, o que acelerou a propagação de mentiras.
Ela alertou que “quando carregada de medo, raiva e ódio, a informação viraliza” e que quando não é mais possível distinguir fato de ficção, “não é possível haver democracia”.
Para a jornalista, na era da IA, o mundo enfrenta um dilema que ela chamou de “Armagedon da informação”.
Superação das capacidades humanas
Já Yoshua Bengio disse que a Inteligência Artificial está se aproximando ou superando as capacidades humanas em muitos domínios.
Ele ressaltou que a tecnologia está avançando mais rapidamente do que a compreensão científica e a capacidade de adaptação dos governos.
O cientista alertou que diante das crescentes evidências de comportamento enganosa da IA, a ciência não tem como garantir que ela não causará danos catastróficos, seja por conta própria ou devido a usuários mal-intencionados.
O relatório do Painel apresenta dados científicos independentes, revisados por cientistas de 37 países. O documento enfatiza que o potencial da IA é enorme, mas os riscos são reais, e quanto mais os governos esperam pra agir, mais eles crescem.
O Diálogo Global será a oportunidade de iniciar um acordo sobre salvaguardas universalmente aceitas ao redor do desenvolvimento e uso da inteligência artificial.
ONU NEWS
