O CEO da OpenAI, Sam Altman, se reuniu com um grupo de parlamentares em Washington, D.C., em um encontro no qual o senador Mark Kelly, democrata do Arizona, afirmou ter levantado “questões sérias” sobre a abordagem da empresa em relação à guerra e ao recente acordo firmado com o Departamento de Defesa dos Estados Unidos.
Em entrevista à CNBC, Kelly disse que o grupo discutiu “em detalhes” temas como vigilância e o uso de sistemas de inteligência artificial dentro de uma “kill chain” – cadeia de operações militares que identifica e elimina alvos. Segundo o senador, a conversa foi “produtiva”.
“Precisamos ter limites claros, e devemos sempre considerar a Constituição dos Estados Unidos, garantindo que tudo esteja em conformidade com ela”, afirmou Kelly.
A OpenAI firmou um acordo com o Departamento de Defesa (DoD) no fim de fevereiro, apenas algumas horas depois de a empresa rival Anthropic ter sido colocada na lista de risco à segurança nacional pelo secretário de Defesa Pete Hegseth, que classificou a companhia como “risco à cadeia de suprimentos para a segurança nacional”.
A Anthropic vinha tentando renegociar seu contrato com o Pentágono, mas as negociações fracassaram por divergências sobre como a tecnologia poderia ser utilizada.
Segundo o impasse, o Departamento de Defesa queria acesso irrestrito aos modelos de IA da empresa para todos os usos legais, enquanto a Anthropic buscava garantias de que seus sistemas não seriam utilizados em armas totalmente autônomas ou em vigilância doméstica em massa.
Em uma publicação na rede X, no dia em que o acordo fracassou, Altman afirmou que a proibição de vigilância doméstica em massa e a exigência de responsabilidade humana no uso da força – inclusive em sistemas de armas autônomas – estão entre os “princípios de segurança mais importantes” da OpenAI. Segundo ele, o Departamento de Defesa concordou com essas condições e as incluiu no acordo firmado com a empresa.
A OpenAI também divulgou um trecho do contrato com o Pentágono, que afirma que o governo pode usar o sistema de IA “para todos os propósitos legais”.
A empresa declarou estar confiante de que o Departamento de Defesa não poderá usar seus sistemas para vigilância em massa ou armas totalmente autônomas, citando mecanismos de segurança da plataforma, a linguagem contratual e as leis existentes.
“Achamos muito importante apoiar o governo dos Estados Unidos e o processo democrático”, disse Altman à CNBC. Ele acrescentou que, embora discorde da decisão do Pentágono de classificar a Anthropic como risco de segurança, considera que o governo precisa ter autoridade para decidir como os temas mais críticos do país devem funcionar.
O conflito entre Anthropic e o Departamento de Defesa surpreendeu autoridades e especialistas em tecnologia em Washington, já que muitos viam os modelos da empresa como superiores e os primeiros a serem implantados em redes classificadas do governo americano.
Além disso, a Anthropic vinha sendo elogiada por sua capacidade de integrar seus sistemas a grandes contratadas de defesa, como a Palantir.
Kelly afirmou que o Congresso precisa participar ativamente da definição de regras para o uso militar da inteligência artificial.
“Precisamos de legislação que estabeleça limites e salvaguardas”, disse o senador. “Este é o Congresso dos Estados Unidos – as coisas não avançam tão rápido quanto gostaríamos, mas essa tecnologia está evoluindo muito rapidamente.”
Fonte: Times Brasil