IA militar: impasse entre Pentágono e Anthropic
IA militar: impasse entre Pentágono e Anthropic domina as negociações em Washington após meses de conversas sobre um contrato de até US$ 200 milhões. A Anthropic exige salvaguardas que impeçam o emprego de seus modelos em armas autônomas e em vigilância interna, enquanto o Departamento de Defesa afirma precisar de liberdade para aplicar soluções comerciais de inteligência artificial conforme a legislação norte-americana.
IA militar: impasse entre Pentágono e Anthropic
Fontes próximas às tratativas disseram que a tensão aumentou depois de um memorando interno do Pentágono, datado de 9 de janeiro, no qual oficiais argumentam que políticas privadas não devem limitar operações governamentais. A reação veio porque a empresa, fundada por ex-funcionários da OpenAI, incorpora nos modelos barreiras contra usos potencialmente nocivos que só podem ser alteradas com o envolvimento direto de seus engenheiros.
A disputa se torna um termômetro da relação entre Vale do Silício e governo federal. Depois de anos de distanciamento, grandes empresas voltaram a disputar contratos militares, e o resultado deste caso pode definir a forma como ferramentas de IA avançada serão integradas a missões de defesa e inteligência dos Estados Unidos.
O CEO da Anthropic, Dario Amodei, já alertou que a tecnologia deve “reforçar a defesa nacional, mas sem nos aproximar de regimes autocráticos”. Em postagem recente no blog da companhia, ele também criticou ações violentas contra manifestantes, reforçando o receio de que algoritmos sejam usados para vigiar cidadãos.
Apesar do choque de posições, o Pentágono mantém interesse nos sistemas da Anthropic, desenvolvidos com filtros que reduzem riscos de comportamento indesejado. Segundo as fontes, adaptações para cenários militares exigiriam participação ativa da equipe técnica da empresa, o que mantém as conversas em andamento.
A impasse ocorre num momento em que a Anthropic avalia abrir capital e competir com Google, OpenAI e xAI, que também foram selecionadas para colaborar com o Pentágono em 2023. De acordo com reportagem da Reuters, o Departamento de Defesa não comentou oficialmente sobre o estágio atual das negociações.
Imagem: Sidney van den Boogaard
O futuro do contrato segue indefinido, mas especialistas veem o debate como decisivo para estabelecer limites éticos ao uso de IA militar nos EUA.
Quer acompanhar outros impactos da tecnologia na sociedade? Visite a editoria Brasil e continue informado.
Crédito da imagem: Sidney van den Boogaard/Shutterstock
