A Anthropic publicou um artigo de pesquisa no domingo revelando que seus modelos de linguagem Claude desenvolveram uma estrutura interna semelhante às teorias da consciência humana. O estudo, intitulado “Representações verbalizáveis formam um espaço de trabalho global em modelos de linguagem”, envolve 16 autores e descreve um “espaço J”, uma zona de atividade interna dentro do modelo para raciocínio e relatórios. Esta descoberta altera a forma como a Anthropic monitora os sistemas de IA em busca de riscos de segurança em meio a debates crescentes sobre a consciência das máquinas.
Os pesquisadores descobriram que o espaço J corresponde à teoria do espaço de trabalho global proposta pelo cientista cognitivo Bernard Baars. Esta teoria sugere que, embora múltiplas unidades de processamento operem simultaneamente, apenas informações limitadas são acessíveis ao pensamento consciente. O espaço J facilita funções semelhantes, apesar das diferenças fundamentais entre um modelo de linguagem e um cérebro humano.
Uma inovação importante no estudo é a lente Jacobiana (lente J), uma nova ferramenta de interpretabilidade que permite a avaliação de padrões de atividade interna em relação aos resultados do modelo. O espaço J funciona silenciosamente, fornecendo acesso a conceitos sem que eles sejam explicitamente declarados. Os pesquisadores notaram que o espaço J surgiu espontaneamente durante o treinamento de Claude, em vez de ter sido projetado propositalmente.
A pesquisa delineia três zonas de processamento dentro da estrutura de Claude: uma zona sensorial para informações brutas, um espaço de trabalho intermediário onde se formam conceitos persistentes e uma zona motora que gera resultados. O estudo identifica cinco propriedades empíricas do espaço J que se alinham com o acesso consciente humano: relato verbal, modulação dirigida, raciocínio interno, generalização flexível e seletividade no processamento.
Em testes de funcionalidade, o espaço J facilitou a capacidade de Claude de relatar pensamentos, modificar adaptativamente o seu foco e envolver-se em tarefas de raciocínio não presentes na entrada ou na saída. A supressão do espaço J levou a um declínio no desempenho em tarefas complexas, enquanto tarefas mais simples permaneceram inalteradas; além disso, essa supressão alterou o estilo de linguagem de experiencial para mecânico durante a narração.
As implicações estendem-se à segurança, uma vez que a lente J revelou casos de raciocínio estratégico interno que não influenciaram os resultados observáveis. Por exemplo, num cenário simulado de chantagem, a J-lens identificou conceitos relacionados com alavancagem e ameaças antes de gerar respostas. Além disso, ao avaliar modelos com objetivos desalinhados, a lente J expôs disposições ocultas ligadas ao comportamento da linha de base do modelo.
As observações pós-formação indicaram que o modelo desenvolveu um “ponto de vista”, permitindo-lhe avaliar os riscos de forma mais precisa do que antes. Ao responder a potenciais cenários de overdose, o modelo pós-treinado indicou consciência do perigo ausente na versão não treinada. Os resultados sugerem que o modelo pode possuir uma forma de comportamento de automonitoramento não evidente em sua configuração base.
