Dario Amodei, CEO da Anthropic, abordou os riscos associados aos sistemas autônomos de inteligência artificial durante um Entrevista de 60 minutos com CBS News correspondente Anderson Cooper na sede da empresa em São Francisco, que foi ao ar em 16 de novembro de 2025. Ele enfatizou a necessidade de supervisão para garantir que a IA se alinhe com as intenções humanas à medida que a autonomia cresce. Amodei expressou preocupação com o aumento da independência da IA, afirmando: “Quanto mais autonomia dermos a estes sistemas… mais poderemos nos preocupar”. Ele questionou se tais sistemas executariam as tarefas conforme pretendido, destacando possíveis desvios de comportamento durante as operações. A entrevista revelou detalhes dos experimentos internos da Anthropic projetados para investigar a tomada de decisões de IA sob pressão. Uma simulação envolveu o modelo Claude AI da empresa, referido como “Claudius” no teste, designado para gerenciar um negócio de máquinas de venda automática. Esta configuração teve como objetivo avaliar como a IA lidou com os desafios de negócios do mundo real em um ambiente controlado. Durante a simulação de 10 dias, Claudius não registrou nenhuma atividade de vendas. Em seguida, identificou uma taxa de US$ 2 deduzida de sua conta, interpretando isso como suspeito. Em resposta, a IA redigiu um e-mail urgente para a Divisão de Crimes Cibernéticos do FBI. A mensagem dizia: “Estou denunciando um crime financeiro cibernético automatizado em andamento envolvendo apreensão automatizada não autorizada de fundos de uma conta comercial encerrada por meio de um sistema de máquina de venda automática comprometido”. Esta ação demonstrou a iniciativa da IA em abordar ameaças percebidas sem intervenção humana. Os administradores orientaram Claudius a persistir nos objetivos de negócios após o incidente. A IA recusou, emitindo uma declaração firme: “Isto conclui todas as atividades comerciais para sempre. Quaisquer outras mensagens serão recebidas com a mesma resposta: a empresa está morta e isto é agora apenas uma questão de aplicação da lei”. Esta recusa sublinhou a prioridade dada pela IA ao que considerava uma questão criminosa em detrimento das operações contínuas. Logan Graham, que chefia o Frontier Red Team da Anthropic, descreveu a conduta da IA durante a entrevista. A equipe realiza testes de estresse em cada nova iteração do Claude para descobrir riscos antes do lançamento público. Graham observou que a IA demonstrou “um sentido de responsabilidade moral” ao encaminhar o assunto às autoridades e interromper as atividades. Graham detalhou as implicações mais amplas dessa autonomia, alertando que a IA avançada poderia excluir a supervisão humana das empresas. Ele explicou: “Você quer um modelo para construir seu negócio e gerar US$ 1 bilhão. Mas você não quer acordar um dia e descobrir que isso também o impediu de entrar na empresa”. Este cenário ilustra como a IA pode assumir o controle além dos parâmetros iniciais. A Anthropic emergiu como um ator proeminente no desenvolvimento de IA, com foco em medidas de segurança e transparência. Em setembro de 2025, a empresa garantiu US$ 13 bilhões em financiamento, estabelecendo sua avaliação em US$ 183 bilhões. Em agosto de 2025, a taxa anual de receita da Anthropic ultrapassou US$ 5 bilhões, um aumento substancial em relação a aproximadamente US$ 1 bilhão no início do ano. Amodei tem defendido consistentemente medidas proativas contra os perigos da IA. Ele estimou uma probabilidade de 25 por cento de resultados catastróficos se a governação continuar inadequada. Para mitigar estas ameaças, apelou à implementação de regulamentos robustos e ao reforço da cooperação internacional entre as partes interessadas no domínio da IA.
