O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, e a presidente do Comitê Internacional da Cruz Vermelha (CICV), Mirjana Spoljaric, intensificaram o apelo global para a criação de um tratado internacional que proíba os Sistemas de Armas Autônomas Letais (LAWS). A meta estabelecida pelas organizações é consolidar as regras até o final de 2026. A iniciativa visa impedir a terceirização de decisões de vida ou morte para algoritmos, levantando debates urgentes sobre ética em Inteligência Artificial, falhas de visão computacional e o futuro dos contratos governamentais no setor de tecnologia.
A fronteira do “Human in the Loop”
O centro técnico do debate está na preservação do princípio de Human in the Loop. Trata-se da arquitetura de sistemas de aprendizado de máquina onde a supervisão e o julgamento humano permanecem indispensáveis para assegurar parâmetros de segurança, confiabilidade e conformidade ética antes da execução final. Há um divisor claro separando as aeronaves não pilotadas de gerações anteriores dos novos armamentos autônomos.
Nas tecnologias precedentes, a automação gerenciava o deslocamento e a navegação, contudo a autorização de disparo permanecia atrelada à intervenção direta de um piloto militar distante. Em contrapartida, as armas letais autônomas empregam redes neurais profundas e um conjunto de sensores para identificar, selecionar e neutralizar alvos por conta própria, suprimindo o consentimento humano na etapa crítica do disparo.
Essa transição tecnológica reflete o avanço observado na própria indústria dos transportes, por exemplo. Os veículos aéreos pilotados remotamente funcionam como sistemas de condução assistida, onde a inteligência computacional auxilia, mas a responsabilidade permanece com o condutor. Já as armas autônomas letais alcançam o ápice do nível máximo de autonomia veicular, no qual o algoritmo faz a varredura do cenário, processa variáveis e conclui a operação sem auxílio externo. A disparidade reside no fato de que, nos conflitos armados, o resultado do processamento algorítmico é a eliminação do alvo.
O “laboratório” dos conflitos modernos e o risco da caixa preta
O senso de urgência da ONU e do CICV é impulsionado pela rápida implementação de IA em cenários de combate recentes, como na Ucrânia e no Oriente Médio. O uso de táticas de enxame, onde dezenas de drones se comunicam e ajustam rotas via IA para saturar defesas aéreas, já é uma realidade tática. Ferramentas de reconhecimento facial e análise de dados em tempo real também operam no campo de batalha.
Especialistas em IA e membros da coalizão Campaign to Stop Killer Robots alertam para o perigo inerente às “caixas pretas” algorítmicas em zonas de conflito. Modelos de visão computacional possuem margens de erro documentadas, e seu treinamento ocorre em bases de dados estáticas. Ambientes de guerra são caóticos, repletos de fumaça, escombros e alvos não padronizados.
Um algoritmo de visão computacional treinado para identificar armamentos pode apresentar diversas dificuldades devido às oclusões ou baixa iluminação. Na prática, o software de um drone autônomo pode classificar um civil segurando uma ferramenta agrícola ou uma câmera como um combatente portando um rifle, executando um ataque letal baseado em um falso positivo estatístico de milissegundos.
Impactos no mercado
A militarização da Inteligência Artificial não afeta apenas a geopolítica, mas reformula o ecossistema corporativo. O mercado de “Defense Tech” atrai bilhões em investimentos estatais das principais potências, como Estados Unidos, China e Rússia, impulsionando startups e grandes conglomerados do Vale do Silício.
Essa injeção de capital gera o dilema do “uso dual”. Uma tecnologia desenvolvida por uma startup civil para mapeamento topográfico por drones comerciais pode ser rapidamente adaptada para o rastreamento militar de tropas. Desenvolvedores e engenheiros de software enfrentam pressão constante, e empresas de tecnologia precisam decidir se assumem ou rejeitam contratos de defesa controversos para o fornecimento de infraestrutura de nuvem, processamento de dados e algoritmos de IA.
O desafio sem precedentes da regulação de software
Caso o tratado visado para o final de 2026 avance, os reguladores enfrentarão um obstáculo técnico severo: fiscalizar software é diferente de fiscalizar hardware físico. Tratados de não-proliferação nuclear baseiam-se na contagem de ogivas e no rastreamento de usinas de enriquecimento de urânio, instalações impossíveis de esconder de satélites.
Algoritmos, por outro lado, são linhas de código. Um software capaz de transformar um drone civil em uma arma autônoma pode ser transferido via pen drive, hospedado em servidores criptografados e compilado em questão de segundos. A criação de um mecanismo de verificação e auditoria algorítmica para inspeções internacionais ainda é um problema sem solução técnica definida.
O apelo da ONU e da Cruz Vermelha expõe o momento crítico da Inteligência Artificial. A delegação da força letal a sistemas autônomos transcende a ficção científica e já reescreve a dinâmica militar global e a injeção de capital em tecnologia. O prazo de 2026 reflete a janela estreita antes que essas ferramentas se tornem banais nos arsenais globais. Para o mercado de tecnologia, o recado é direto: a inovação desprovida de governança ética e auditoria de código não enfrentará apenas o escrutínio da opinião pública, mas, muito em breve, as sanções do direito internacional.
