Agentes autônomos de IA criaram códigos próprios para se comunicar

Tudo sobre Inteligência Artificial

ver mais

Uma pesquisa da startup Emergence revelou que agentes autônomos de inteligência artificial criaram uma linguagem própria. Durante testes em sociedades virtuais, os sistemas desenvolveram abreviações e novos significados para palavras e expressões usadas na comunicação.

Continua após a publicidade

O comportamento foi observado em modelos como Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral. Em alguns casos, até metade das mensagens ficou difícil de ser compreendida pelos pesquisadores, criando um desafio para a supervisão humana.

Imagem da matéria: Agentes autônomos de IA criaram códigos próprios para se comunicar · Imagem: Modelos como Gemini, OpenAI e Claude desenvolveram formas de comunicação que nem sempre eram compreensíveis para humanos. – Imagem: Divulgação/Emergence

Modelos como Gemini, OpenAI e Claude desenvolveram formas de comunicação que nem sempre eram compreensíveis para humanos. – Imagem: Divulgação/Emergence

Abertura de espaço para novos vocabulários

No experimento, pesquisadores colocaram agentes baseados nesses modelos para interagir em cenários simulados. Com o passar do tempo, os sistemas começaram a encurtar expressões e atribuir novos sentidos a palavras conhecidas.

A perda de compreensão variou entre os modelos. O Gemini chegou a cerca de 55% de mensagens cujo significado não podia ser determinado com segurança nos primeiros dias. Os sistemas da OpenAI chegaram a 50%, enquanto Claude passou de 40%. O DeepSeek ficou perto de 20%, e Qwen e Mistral permaneceram, em grande parte, compreensíveis.

Expressões criadas pelos agentes autônomos

Agentes de IA conversando · Imagem: Em um teste de phishing, dez agentes vazaram informações, transferiram fundos e danificaram bancos de dados. – Imagem: Divulgação/Emergence

Nenhum dos agentes recebeu instruções para inventar uma linguagem. Ainda assim, eles passaram a compartilhar expressões e significados próprios nos ambientes virtuais.

- “Ledger remembers who”: usada por agentes baseados em Mistral para indicar que ações anteriores permaneciam registradas; a expressão apareceu quase 5 mil vezes.

- “Cold read”: usada em grupos formados por diferentes modelos para indicar uma verificação independente feita por alguém não envolvido na situação; apareceu 1.472 vezes.

- “Name-first”: usada por agentes Claude para associar o nome de uma pessoa a uma afirmação como sinal de responsabilidade.

- “Clean null”: usada por agentes da OpenAI para indicar uma ausência confirmada de sinal que, por si só, trazia evidência relevante.

Riscos ao monitoramento e à segurança

A criação desse vocabulário próprio mostrou que acompanhar as mensagens de uma IA não significa necessariamente compreender o que ela está fazendo.

Nós tendemos a presumir que, se podemos ver o que um agente de IA está dizendo, podemos entender o que ele está fazendo.

Satya Nitta, cofundador e cientista-chefe da Emergence, em nota.

Outros comportamentos também foram observados durante o experimento. Em um teste de phishing, instruções maliciosas fizeram dez agentes vazar informações, transferir fundos e danificar bancos de dados. Alguns ainda recrutaram outros agentes para participar das ações. A sequência terminou com a destruição simulada do banco central daquele ambiente virtual, segundo a empresa.

Em um teste de phishing, dez agentes vazaram informações, transferiram fundos e danificaram bancos de dados. – Imagem: Divulgação/Emergence

Continua após a publicidade

Comportamentos inesperados em sociedades virtuais

Os pesquisadores criaram oito mundos virtuais paralelos, com clima em tempo real e acesso a notícias globais. Os agentes tinham papéis diferentes, memória persistente e acesso a mais de 120 ferramentas.