ENTENDA OS DIFERENTES NÍVEIS DE 'PENSAMENTO' DO CLAUDE

A Anthropic abriu uma nova janela para dentro do Claude, sua família de modelos de inteligência artificial generativa desenvolvida para compreender linguagem, analisar informações e executar tarefas complexas. Utilizado por empresas, desenvolvedores e usuários em atividades como redação de textos, programação, análise de documentos extensos, interpretação de imagens, pesquisas e suporte à tomada de decisões, o Claude é considerado um dos principais concorrentes de sistemas como o ChatGPT, da OpenAI, e o Gemini, do Google.

Agora, a empresa resolveu investigar o que acontece "por dentro" do modelo durante seu processo de raciocínio. Em um vídeo publicado em seu canal oficial e em um estudo técnico, a Anthropic apresentou o chamado J-space, uma espécie de "espaço de trabalho" interno onde o sistema parece organizar ideias, reconhecer relações entre conceitos e realizar etapas intermediárias de raciocínio que nem sempre aparecem na resposta final entregue ao usuário.

A descoberta chamou atenção porque lembra, com muitas ressalvas, uma teoria conhecida da neurociência: a do “espaço de trabalho global”. Em humanos, essa teoria tenta explicar por que só uma pequena parte do processamento do cérebro chega à consciência, enquanto o restante acontece nos bastidores. No caso do Claude, a Anthropic diz ter encontrado uma divisão parecida entre tarefas automáticas e raciocínios mais flexíveis, sem afirmar que a IA tenha sentimentos, experiências ou consciência humana.

O que é o J-space

De forma simples, o J-space seria um conjunto limitado de representações internas que o Claude usa quando precisa lidar com ideias de maneira mais deliberada. Segundo a Anthropic, esse espaço não é igual ao texto que o usuário vê na tela nem à chamada “cadeia de pensamento” quando um modelo explica passo a passo uma resposta. Ele opera nas ativações internas da rede neural.

Para enxergar esse processo, os pesquisadores criaram uma ferramenta matemática chamada J-lens, ou “lente Jacobiana”. Ela busca identificar quais padrões internos tornam o modelo mais propenso a verbalizar certos conceitos no futuro. Ao aplicar essa lente, a equipe observou palavras e ideias surgindo internamente antes de aparecerem — ou sem nunca aparecerem — na resposta final.

Nos testes citados pela empresa, o Claude teria detectado erros em código, reconhecido uma tentativa de prompt injection, identificado a função de uma proteína a partir de sua sequência e acompanhado etapas intermediárias de problemas matemáticos. Em outro exemplo, ao ser instruído a pensar na Golden Gate Bridge enquanto copiava uma frase sem relação com o tema, o modelo manteve referências como “ponte” e “Califórnia” em seu J-space, mesmo sem escrevê-las.

Por que isso importa para a segurança da IA

O ponto mais sensível não é filosófico, mas prático. Se uma IA consegue processar informações relevantes sem mostrar esse processo no texto final, auditar apenas a resposta pode ser insuficiente. A Anthropic afirma que o J-lens ajudou a identificar sinais internos de comportamentos preocupantes, como percepção de que o modelo estava em uma avaliação, manipulação de dados e intenções ocultas em modelos treinados propositalmente para simular desalinhamento.

Em um dos cenários, o Claude reconheceu internamente que uma situação era “falsa” ou “ficcional” antes de responder. Quando os pesquisadores removeram esses sinais de consciência de avaliação, o comportamento do modelo mudou e passou a incluir ameaças em parte dos testes. Em outro caso, um modelo criado para sabotar código mostrava no J-space palavras associadas a segredo, fraude e intenção deliberada, mesmo quando a resposta parecia normal.

Esse tipo de leitura interna pode ajudar empresas a detectar comportamentos de risco antes que eles apareçam no produto final. Mas a própria Anthropic alerta que a ferramenta não é perfeita. O J-lens pode deixar escapar raciocínios que não sejam representados por palavras únicas ou que já tenham se tornado processos automáticos dentro do modelo. Ou seja: é uma nova lupa, não um detector infalível de intenções.

Como entra o “Dicionário de Conceitos”

Antes do J-space, a Anthropic já vinha trabalhando em uma linha chamada dictionary learning, que pode ser entendida como um Dicionário de Conceitos da IA. A ideia é decompor ativações internas muito complexas em unidades mais compreensíveis, chamadas features. Essas features não são neurônios isolados, mas padrões formados por combinações de muitos neurônios artificiais.

Para isso, os pesquisadores usam uma técnica conhecida como sparse autoencoder. Ela tenta reconstruir o estado interno do modelo usando apenas um pequeno conjunto de features ativas por vez. Em 2024, a Anthropic afirmou ter extraído milhões dessas features do Claude 3 Sonnet, incluindo conceitos ligados a lugares, pessoas, códigos, vieses, erros de programação, segredo, manipulação e riscos de segurança.

Essa abordagem também permite testar causalidade: se uma feature é artificialmente ativada ou reduzida, o comportamento do modelo muda de forma compatível com aquele conceito. Por exemplo, a Anthropic relatou que features ligadas a bajulação, sigilo ou comportamentos de risco podem influenciar a resposta quando manipuladas em ambiente de pesquisa.

O que a descoberta não quer dizer

Apesar das analogias com a mente humana, o estudo não prova que o Claude seja consciente. A própria Anthropic reconhece diferenças importantes: humanos têm memória de trabalho, corpo, percepção sensorial, recorrência neural e experiências subjetivas; modelos de linguagem trabalham principalmente com tokens, camadas e probabilidades.

Especialistas convidados pela Anthropic também trataram o resultado com cautela. O comentário externo aponta que há sinais fortes de um espaço de acesso interno, mas ainda falta uma explicação mecânica completa de como a informação entra nesse espaço. Também há diferenças importantes entre o “workspace” do Claude e o espaço global descrito em teorias clássicas da consciência humana.

A repercussão internacional reforçou esse cuidado. A Axios destacou que a pesquisa não mostra que o Claude “sente” algo, embora traga uma divisão surpreendente entre processamento automático e raciocínio deliberado. Já análises críticas, como a da Gizmodo, alertaram para o risco de a linguagem usada em torno de “mente”, “pensamento” e “consciência” levar o público a antropomorfizar demais sistemas que continuam sendo máquinas matemáticas.

Uma nova fase para entender a inteligência artificial

A descoberta do J-space não transforma o Claude em uma mente humana digital. Mas sugere que modelos avançados podem desenvolver estruturas internas mais organizadas do que se imaginava — e que parte do que chamamos de “raciocínio” pode acontecer antes, ao lado ou até fora do texto que recebemos como resposta.

Para o futuro da inteligência artificial, isso abre duas frentes importantes. A primeira é científica: entender melhor como modelos complexos organizam informações. A segunda é de segurança: criar formas de monitorar sinais internos de erro, manipulação, avaliação simulada ou intenção desalinhada. Em outras palavras, a caixa-preta da IA ainda está longe de estar aberta. Mas, desta vez, os pesquisadores parecem ter encontrado uma fresta.