Guterres alertou para a convergência da IA com outras tecnologias ampliando os riscos quando usada em aplicações militares. Ele disse que é preciso evitar uma integração desses dois campos porque teria “consequências potencialmente desastrosas”.
Num olhar para o futuro, ele alertou sobre ferramentas de IA quântica com potencial de violar até os “sistemas de defesa mais fortes e reescrever regras da segurança digital da noite para o dia”. Para o líder da ONU, o destino da humanidade nunca deve ser deixado para a “caixa preta” de um algoritmo.
O chefe da ONU defende ainda que seja mantido o controle dos humanos sobre as funções de tomada de decisão guiados pelo direito internacional, incluindo as leis humanitárias internacionais, de direitos humanos e princípios éticos.
Para ele, a Inteligência Artificial não está apenas remodelando o mundo, mas também revolucionando-o.
Questões essenciais sobre responsabilidade
Guterres apontou enormes riscos ligados ao rápido desenvolvimento da tecnologia, que pode resultar na incapacidade de governar a IA e levantar questões essenciais sobre responsabilidade, igualdade, segurança e proteção.
O líder da ONU destacou ainda que a “Inteligência Artificial sem supervisão humana deixaria o mundo cego, e talvez em nenhum ambiente de forma mais perigosa e imprudente do que na paz e segurança globais.”
O secretário-geral realçou, no entanto, que uma realidade de ricos e pobres sem IA seria “um mundo de instabilidade perpétua”. Por outro lado, destacou que nunca se deve permitir que esses sistemas representem um “avanço da desigualdade”.
O chefe da ONU pede que seja prevenido o surgimento de esferas fragmentadas de IA para que seja construído um mundo onde a tecnologia sirva a toda a humanidade.
Evolução dos sistemas de IA
No evento participaram ainda o cientista chefe de IA na equipe da empresa Meta, Yann Lecun, e a professora Fei-Fei Li, do Departamento de Ciência da Computação da Universidade de Stanford e codiretora do AI Institute de Stanford.
Lecun revelou que sistemas de IA poderão equiparar-se ou superar as capacidades intelectuais humanas. Em um ou duas décadas, eles atuarão de forma “muito diferente dos sistemas atuais e serão capazes de entender o mundo físico, lembrar, raciocinar e planejar”.
Eles poderão ter algum nível de senso comum com sistemas superinteligentes que obedecerão a vontades humanas e permanecerão sob seu controle.
Nessa etapa, a inteligência artificial realizará tarefas ditadas por humanos e guiados pelas proteções de segurança que poderão “moldar seu comportamento de forma semelhante àquelas como leis invioláveis moldariam o comportamento humano.”
O perito pediu que o foco da cooperação internacional seja na coleta de material cultural, fornecendo “supercomputadores focados em IA em várias regiões do mundo”, e criada “uma forma de operação para o treinamento a ser distribuído a partir de um modelo de fundação universal livre e aberto”.
Além disso, essa colaboração deverá agregar o cenário regulatório para que o desenvolvimento e a implantação de modelos de base de código aberto não sejam prejudicados.
Compromisso compartilhado com a dignidade humana
A especialista Fei-Fei Li, que atua nas áreas de visão computacional, aprendizado profundo, aprendizado robótico e IA para assistência médica na Universidade de Stanford, nos Estados Unidos, disse que para as futuras gerações o entendimento do potencial da IA requer vigilância.
Ela defende ainda a colaboração internacional e um compromisso compartilhado com a dignidade humana e a estabilidade global.
Fei-Fei Li pediu atuação urgente e união na promoção da liderança do setor público, defesa da
cooperação global e promoção de políticas baseadas em evidências para desbloquear o potencial transformador e, ao mesmo tempo, proteger o desenvolvimento responsável.
onu news