A Anthropic, empresa americana de inteligência artificial responsável pelo Claude, alertou investidores de que sistemas avançados de IA podem representar riscos “catastróficos ou existenciais para a humanidade”. A informação consta do prospecto preparado pela companhia para sua planejada oferta pública inicial de ações (IPO), segundo reportagens do Financial Times e da Reuters.
O alerta ocorre em meio ao avanço acelerado dos modelos de inteligência artificial e ao aumento da autonomia desses sistemas. Ao mesmo tempo em que reconhece a possibilidade de riscos extremos, a Anthropic continua ampliando seus modelos, sua infraestrutura e seus negócios.
A discussão ganhou força nas últimas semanas, depois que executivos do setor passaram a defender mecanismos mais rígidos de segurança e maior supervisão internacional. O próprio CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento de modelos quando os mecanismos de segurança não forem capazes de acompanhar o avanço das capacidades.
Leia mais:
Campanha de Lula cita críticas de Flávio à CNBB em programa eleitoral
O que exatamente a Anthropic alertou aos investidores?
O alerta aparece entre os fatores de risco apresentados pela companhia no processo de preparação para sua possível entrada na Bolsa.
A empresa considera a possibilidade de que sistemas avançados de inteligência artificial apresentem comportamentos inesperados, sejam utilizados de maneira maliciosa ou ultrapassem mecanismos de controle desenvolvidos pelos próprios criadores.
A expressão “risco existencial” descreve um cenário extremo em que uma tecnologia poderia provocar consequências capazes de ameaçar a sobrevivência da humanidade ou alterar de maneira irreversível o funcionamento da sociedade.
Isso não significa que a Anthropic esteja afirmando que seus sistemas atuais vão destruir a humanidade. O documento apresenta uma possibilidade de risco extremo dentro de uma relação mais ampla de fatores que podem afetar a empresa e seus investidores.
Por que uma empresa de IA está falando em riscos para a humanidade?
A preocupação está diretamente ligada ao aumento das capacidades dos chamados modelos de fronteira, sistemas desenvolvidos para realizar tarefas cada vez mais complexas.
Modelos atuais já conseguem escrever código, realizar pesquisas, analisar grandes volumes de informações, utilizar ferramentas digitais e executar sequências de tarefas com diferentes níveis de autonomia.
Quanto maior a capacidade de um sistema, maior também pode ser o impacto de uma falha ou de uma utilização indevida.
Um erro em uma resposta de um chatbot pode ser relativamente simples de corrigir. Já um sistema autorizado a executar ações em computadores, acessar serviços ou modificar informações pode causar consequências maiores caso interprete uma instrução de maneira equivocada.
Dario Amodei defendeu desaceleração no desenvolvimento da IA
O alerta aos investidores acontece poucas semanas depois de Dario Amodei defender publicamente uma redução no ritmo de desenvolvimento dos modelos mais avançados.
Em setembro, o executivo publicou uma proposta para aumentar o controle sobre o desenvolvimento da chamada IA de fronteira. Entre as medidas defendidas estava a participação de avaliadores externos para verificar mecanismos de segurança, investigar incidentes e acompanhar o comportamento dos modelos durante seu desenvolvimento.
Amodei também afirmou que a Anthropic poderia desacelerar o desenvolvimento caso os mecanismos de segurança não acompanhassem a evolução das capacidades dos sistemas.
A posição chama atenção porque a Anthropic está, simultaneamente, entre as empresas que disputam espaço no desenvolvimento de modelos cada vez mais sofisticados.
Anthropic cresce enquanto acumula prejuízos bilionários
O prospecto também mostra o tamanho do investimento necessário para manter a expansão da companhia.
A Anthropic registrou aproximadamente US$ 4,6 bilhões em receita em 2025, mas teve prejuízo operacional de cerca de US$ 8,06 bilhões no mesmo período.
A diferença está relacionada principalmente aos custos envolvidos no desenvolvimento e na operação de modelos avançados, que exigem enormes quantidades de capacidade computacional.
Em 2026, a receita da companhia cresceu rapidamente. Segundo informações divulgadas pelo Financial Times, a empresa chegou a uma receita anualizada de aproximadamente US$ 65 bilhões em julho.
O crescimento ajuda a explicar por que investidores passaram a atribuir valores cada vez maiores às empresas que atuam no setor.
O que os US$ 518 bilhões significam?
Outro número que chamou atenção no prospecto foi o de US$ 518 bilhões em compromissos relacionados à infraestrutura e capacidade de computação.
O valor não significa que a Anthropic tenha simplesmente colocado US$ 518 bilhões em caixa para gastar imediatamente.
Trata-se de compromissos relacionados à expansão da capacidade necessária para operar seus sistemas. Empresas de IA precisam contratar serviços de computação, reservar capacidade de data centers e garantir acesso a chips e outros componentes utilizados no processamento dos modelos.
A escala desses compromissos mostra uma das características da atual corrida pela inteligência artificial: desenvolver modelos avançados exige investimentos enormes antes mesmo de toda a capacidade computacional ser convertida em receita.
O avanço dos agentes de IA aumenta os riscos?
Sim, e essa é uma das questões centrais da discussão atual.
Os chamados agentes de IA vão além de simplesmente responder perguntas. Dependendo do sistema e das permissões concedidas, eles podem pesquisar informações, escrever código, utilizar programas, acessar serviços e executar determinadas ações.
Isso aumenta a utilidade da tecnologia, mas também cria novos pontos de risco.
Um sistema que interpreta incorretamente uma instrução pode tomar uma decisão diferente daquela esperada pelo usuário. Se tiver acesso a ferramentas externas, o problema pode deixar de ser apenas uma resposta incorreta e resultar em uma ação efetivamente executada.
Por isso, empresas do setor vêm desenvolvendo testes específicos para avaliar o comportamento de modelos antes de disponibilizá-los ao público.
O tema chegou ao Conselho de Segurança da ONU
A discussão sobre os riscos da inteligência artificial também chegou ao Conselho de Segurança das Nações Unidas.
Em setembro, Dario Amodei participou de uma reunião sobre os possíveis impactos dos sistemas avançados de IA. O debate envolveu questões relacionadas à segurança internacional, cibersegurança e ao desenvolvimento de sistemas cada vez mais autônomos.
Amodei defendeu que a questão não pode ser tratada exclusivamente pelas empresas de tecnologia. Segundo a posição apresentada pelo executivo, governos e organizações internacionais também precisam participar da criação de mecanismos de supervisão.
A discussão ocorre em um momento em que diferentes países analisam maneiras distintas de regulamentar o desenvolvimento e a utilização da inteligência artificial.
Por que o alerta foi divulgado antes do IPO?
A Anthropic está se preparando para uma possível oferta pública inicial de ações nos Estados Unidos.
Em junho, a empresa confirmou que havia apresentado confidencialmente à Securities and Exchange Commission (SEC), órgão responsável pela fiscalização do mercado de capitais americano, uma minuta de registro para uma possível oferta.
A apresentação do documento não significa que o IPO esteja garantido. A operação ainda depende do processo regulatório e das condições do mercado.
Para uma companhia que pretende receber dinheiro de investidores públicos, apresentar os riscos do negócio é uma etapa fundamental.
Por isso, o alerta sobre os possíveis efeitos da inteligência artificial deve ser interpretado também como uma divulgação financeira e jurídica. A empresa está informando aos potenciais investidores que a mesma tecnologia responsável pelo crescimento do negócio também pode gerar riscos relevantes.
Anthropic pode alcançar avaliação de trilhões de dólares
As informações mais recentes divulgadas pela imprensa apontam que a Anthropic pode buscar uma avaliação superior a US$ 2 trilhões em uma eventual abertura de capital.
Esse número, porém, representa uma expectativa relacionada à possível operação e não uma avaliação definitiva da empresa na Bolsa.
A eventual valorização mostra a dimensão das expectativas existentes em torno do mercado de inteligência artificial.
Ao mesmo tempo, os números financeiros revelam um setor que ainda exige investimentos gigantescos em infraestrutura. Empresas precisam equilibrar crescimento de receita, custos de computação, desenvolvimento de modelos e gastos com segurança.
O que o alerta significa para quem usa inteligência artificial?
Para o usuário comum, o documento não significa que os sistemas de IA estejam prestes a provocar uma catástrofe.
O alerta trata principalmente de cenários de risco associados ao desenvolvimento de sistemas cada vez mais avançados e autônomos.
Na prática, usuários devem considerar que ferramentas de inteligência artificial podem cometer erros, interpretar instruções de maneira equivocada ou produzir informações incorretas.
A necessidade de supervisão aumenta quando a ferramenta recebe autorização para executar ações externas, acessar dados importantes ou tomar decisões que tenham consequências financeiras, profissionais ou pessoais.
O que pode acontecer daqui para frente?
O principal desafio para o setor será acompanhar o crescimento das capacidades dos modelos com mecanismos de segurança capazes de controlá-los.
Para as empresas, isso envolve criar sistemas de avaliação, monitoramento e proteção contra usos indevidos. Para governos, o desafio é estabelecer regras que reduzam riscos sem impedir o desenvolvimento de tecnologias que também podem gerar benefícios econômicos e científicos.
A Anthropic já mantém pesquisas voltadas à segurança, ao alinhamento e à interpretação dos modelos.
O debate, porém, não está restrito à companhia. OpenAI, Google, Meta e outras empresas também desenvolvem sistemas avançados e enfrentam questões semelhantes relacionadas a autonomia, segurança e responsabilidade.
O alerta da Anthropic significa que a IA é perigosa?
O documento não permite chegar a uma conclusão tão ampla.
O que a Anthropic reconhece é que sistemas cada vez mais capazes podem trazer riscos relevantes, inclusive em cenários extremos. Alguns desses riscos já podem ser observados em problemas como desinformação, ataques cibernéticos, erros automatizados e uso indevido da tecnologia.
Outros cenários, principalmente aqueles classificados como “existenciais”, continuam sendo hipóteses discutidas por pesquisadores e especialistas.
A diferença entre esses dois grupos é fundamental. Riscos atuais podem ser observados e estudados com base em acontecimentos concretos, enquanto determinados riscos de longo prazo dependem de sistemas e capacidades que ainda estão em desenvolvimento.
O que o caso revela sobre o futuro da inteligência artificial?
O episódio mostra que a discussão sobre inteligência artificial deixou de ser exclusivamente tecnológica.
A expansão dos modelos envolve investimentos bilionários, infraestrutura de grande escala, segurança digital, regulamentação, mercado financeiro e relações internacionais.
A Anthropic está, ao mesmo tempo, acelerando seus negócios e alertando investidores sobre os riscos que podem surgir do avanço da tecnologia.
Para o público, a principal questão é entender a diferença entre os riscos que já existem, aqueles que podem surgir com sistemas mais avançados e as medidas desenvolvidas para reduzir essas possibilidades.
A corrida pela inteligência artificial continua. A capacidade de controlar os sistemas à medida que eles se tornam mais poderosos será uma das questões centrais dessa próxima etapa.
Conclusão
O alerta da Anthropic mostra que a corrida pelo desenvolvimento da inteligência artificial acontece ao mesmo tempo em que aumentam as preocupações sobre segurança e controle. A empresa reconhece aos investidores que modelos cada vez mais avançados podem trazer riscos relevantes, enquanto continua ampliando seus negócios e investimentos em infraestrutura.
O próximo desafio será encontrar um equilíbrio entre inovação e segurança. À medida que a IA ganha mais autonomia e capacidade para executar tarefas complexas, empresas, governos e usuários terão de acompanhar esse avanço com mecanismos capazes de reduzir erros, abusos e consequências inesperadas.