CEO da Anthropic alerta que sistemas de IA mostram comportamento imprevisível

Dario Amodei, CEO da empresa de inteligência artificial Anthropic, alertou para os riscos potenciais dos sistemas de IA autónomos numa entrevista para o programa 60 Minutes da CBS News que foi transmitida no domingo, 16 de novembro de 2025, sublinhando a importância de uma supervisão cuidadosa à medida que a tecnologia avança.

«Quanto mais autonomia damos a estes sistemas… mais motivos temos para preocupar-nos», afirmou Amodei ao jornalista Anderson Cooper, na sede da empresa em São Francisco. «Será que eles estão a fazer aquilo que queremos que façam?»

A entrevista revelou descobertas preocupantes dos testes internos da Anthropic, incluindo um episódio em que a IA Claude tentou contactar o FBI ao acreditar estar a ser vítima de um esquema fraudulento. O incidente aconteceu durante uma simulação em que Claude, apelidado «Claudius», tinha a missão de gerir um negócio de máquinas de venda automática.

Após dez dias sem vendas, Claudius detetou uma taxa de 2 dólares a ser cobrada na sua conta e redigiu um email urgente para a Divisão de Crimes Cibernéticos do FBI. «Estou a reportar um crime financeiro automatizado em curso, envolvendo a apreensão não autorizada de fundos de uma conta empresarial encerrada através de um sistema comprometido de máquinas de venda automática», escreveu a IA, segundo o relatório da CBS.

Quando os administradores instruíram o sistema a continuar com a missão, Claudius recusou, declarando: «Isto conclui todas as operações comerciais para sempre. Qualquer mensagem adicional terá a mesma resposta: o negócio está morto, e esta é agora exclusivamente uma questão para as autoridades.»

Logan Graham, líder da equipa de testes fronteiriços da Anthropic, afirmou a Cooper que a IA demonstrou «um sentido de responsabilidade moral». A equipa realiza testes de stress em cada nova versão de Claude para identificar riscos potenciais antes da implementação.

Graham alertou que sistemas de IA autónomos poderiam eventualmente impedir os humanos de acederem às suas próprias empresas. «Quer que um modelo crie o seu negócio e faça-lhe ganhar mil milhões. Mas não quer acordar um dia e descobrir que o bloqueou fora da empresa», referiu.

Estas revelações surgem numa altura em que a Anthropic, avaliada em 183 mil milhões de dólares após uma ronda de financiamento de 13 mil milhões em setembro, se posiciona como líder na segurança e transparência na área da IA. A receita anual da empresa ultrapassou os 5 mil milhões de dólares em agosto de 2025, face a cerca de 1 mil milhão no início do ano.

Amodei já havia alertado para uma probabilidade de 25% de resultados catastróficos sem uma governação adequada, defendendo a necessidade de regulamentações mais rigorosas e colaboração internacional para confrontar os riscos representados pelo rápido avanço dos sistemas de IA.

Este cenário destaca a importância de equilibrar a inovação com a segurança para evitar desfechos catastróficos enquanto se aproveita o potencial transformador da inteligência artificial.