Em meio a relatos não confirmados de que drones totalmente autônomos e guiados por Inteligência Artificial, IA, estão sendo usados no campo de batalha, a ONU e a Cruz Vermelha fizeram um apelo urgente por controles mais rígidos, antes que seja tarde demais.
A declaração conjunta do secretário-geral da ONU, António Guterres, e da presidente da Cruz Vermelha, Mirjana Spoljaric Egger, renova um apelo feito há três anos e ressalta que os riscos se intensificaram, com o rápido desenvolvimento de armas impulsionado pela IA.
Linha vermelha moral
As duas lideranças líderes afirmam que a humanidade está “perigosamente perto de cruzar uma linha vermelha moral: o ataque autônomo de humanos por máquinas”.
Atacar civis e infraestrutura civil em conflitos já é estritamente proibido pelo direito internacional humanitário, mas entender quem são os não combatentes em uma zona de conflito é extremamente difícil.
A preocupação é que decisões de vida ou morte sejam tomadas por máquinas incapazes de distinguir a diferença.
Negociação de acordo vinculante
A declaração pede o início imediato de negociações para a adoção de um instrumento juridicamente vinculante que regule os sistemas de armas autônomas, estabelecendo proibições e restrições claras.
Segundo Guterres e Egger, a falta de uma ação rápida e decisiva custará vidas. Eles ressaltam que a falta de proibições deixará para as gerações futuras um mundo onde a responsabilização por ataques letais será mais difícil de estabelecer e onde garantias do direito humanitário são colocadas em xeque.
Os chefes da ONU e da Cruz Vermelha destacaram que a 7ª Conferência de Revisão da Convenção sobre Certas Armas Convencionais, em novembro, oferece o caminho mais claro disponível para que os países decidam avançar para a negociação de um instrumento juridicamente vinculante, como um tratado internacional.
Controle humano
Bases importantes para um acordo já foram lançadas por meio de discussões na Assembleia Geral da ONU e no Grupo de Especialistas Governamentais do Comitê de Armas Convencionais, incluindo progressos na definição do julgamento humano e do controle necessários para garantir o cumprimento do direito internacional humanitário.
A ONU e o Comitê Internacional da Cruz Vermelha emitiram seu primeiro apelo conjunto em 2023, pedindo que os Estados negociassem um instrumento legalmente vinculante até 2026.
A declaração inicial enfatizava que o controle humano deve ser mantido sobre decisões de vida ou morte e que máquinas capazes de tirar vidas sem envolvimento humano devem ser proibidas pelo direito internacional.
