A inteligência artificial (I.A) generativa deixou de ser apenas uma ferramenta para criação de textos, imagens e códigos. Segundo um relatório da Cisco Talos, hackers passaram a explorar modelos avançados de I.As para apoiar atividades como desenvolvimento de códigos maliciosos, automação de ataques e identificação de vulnerabilidades em sistemas.

O levantamento publicado pelo The Times of India mostra que ferramentas como Claude Code, Codex, Cursor e Gemini estão sendo utilizadas por agentes de ameaça como parte de suas estratégias digitais.

A análise da Cisco foi baseada em registros de conversas e históricos de mensagens que ficaram expostos acidentalmente na internet, permitindo que pesquisadores acompanhassem como esses grupos tentavam utilizar os modelos.

Embora essas plataformas tenham sido desenvolvidas para auxiliar programadores, empresas e especialistas em segurança, os recursos oferecidos pelos modelos também podem ser adaptados para objetivos criminosos.

Dessa forma, o avanço da I.A cria um novo desafio para o setor de cibersegurança: impedir abusos sem limitar o uso legítimo da tecnologia.

Entre os modelos citados pela Cisco Talos estão o Claude Code, da Anthropic; o Codex, da OpenAI, empresa responsável pelo ChatGPT; além do Cursor e do Gemini, ligados ao Google.

O que é a Cisco Talos?

A Cisco Talos é a área de inteligência em segurança cibernética da Cisco Systems, uma das maiores empresas globais do setor de tecnologia e infraestrutura de redes. A divisão é responsável por monitorar ameaças digitais, investigar ataques virtuais e analisar novas técnicas utilizadas por grupos criminosos.

Com uma equipe dedicada à pesquisa de segurança, a Cisco Talos acompanha atividades suspeitas na internet, identifica vulnerabilidades em sistemas e produz relatórios para alertar empresas e profissionais sobre riscos emergentes.

Proteções dos modelos de I.As ainda são alvo de testes por criminosos

Apesar dos filtros de segurança incorporados aos modelos comerciais de inteligência artificial, a Cisco identificou que muitos hackers conseguiram testar os limites das ferramentas usando métodos considerados simples.

Uma das principais estratégias observadas foi o chamado “jailbreak”, técnica utilizada para tentar fazer o modelo ignorar determinadas restrições.

Dessa forma, em alguns casos, os agentes de ameaça afirmavam estar participando de atividades autorizadas, como competições de hacking ético, ou alegavam possuir permissões administrativas para justificar os pedidos feitos às I.As.

Outra prática identificada foi a abertura de novas conversas durante uma tentativa de exploração. Com isso, os usuários buscavam contornar bloqueios aplicados anteriormente pelos sistemas de segurança.

Para Nick Biasini, líder técnico sênior da Cisco Talos, o desafio está em encontrar um equilíbrio entre proteção e utilidade. Isso porque os mesmos modelos precisam atender pesquisadores que realizam testes legítimos de segurança, mas também impedir que pessoas com intenções maliciosas utilizem esses recursos.

Além disso, segundo o especialista, os desenvolvedores enfrentam uma situação complexa. As mesmas ferramentas que ajudam profissionais de defesa também podem oferecer recursos explorados por criminosos.

Uso de contas comprometidas aumenta preocupação

Além das tentativas de manipular os próprios modelos, a Cisco identificou outro risco. Alguns invasores utilizaram tokens de API corporativos roubados e contas comprometidas para executar suas atividades.

Dessa forma, com essas credenciais, os criminosos conseguiram acessar recursos computacionais de empresas, evitando utilizar uma infraestrutura própria para realizar as operações. O relatório reforça que a segurança dos sistemas de inteligência artificial não depende apenas das barreiras criadas pelos fabricantes.

Além disso, especialistas destacam que as empresas precisam adotar medidas complementares. Entre elas estão o:

• Controle de acesso;
• Acompanhamento de atividades suspeitas; e a
• Criação de políticas internas para o uso dessas ferramentas.

Assim, enquanto as I.As generativas amplia oportunidades para desenvolvedores e organizações, ela também abre uma nova frente de disputa no setor de segurança digital. O mesmo recurso que acelera a criação de soluções tecnológicas agora exige atenção redobrada para que criminosos não o utilizem como instrumento de ataque.

Fonte: Times Brasil