O avanço acelerado da inteligência artificial (IA) voltou a provocar um debate que vai muito além de empregos, produtividade e novas ferramentas digitais. Pesquisadores ligados a algumas das principais empresas do setor passaram a questionar publicamente se o ritmo atual de desenvolvimento é compatível com a capacidade de controlar sistemas cada vez mais autônomos.
A discussão ganhou força após a saída de Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic. Ao anunciar sua decisão, ele afirmou que profissionais da área consideram seriamente a possibilidade de sistemas avançados representarem um risco extremo para a humanidade. O alerta foi posteriormente endossado por Evan Hubinger, pesquisador de alinhamento da Anthropic, que estimou em mais de 10% a possibilidade de uma catástrofe envolvendo IA na próxima década.
É importante destacar que esse percentual não representa uma previsão científica consensual. Trata-se da avaliação pessoal de um pesquisador sobre um cenário futuro altamente incerto. Mesmo assim, o fato de especialistas que trabalham diretamente no desenvolvimento e na segurança de modelos avançados discutirem publicamente esse risco elevou a pressão por novas medidas de controle.
Leia mais:
OpenAI abre operação no Brasil de olho no avanço da inteligência artificial no país
Por que pesquisadores querem desacelerar a inteligência artificial
A principal preocupação não está nos chatbots atuais isoladamente, mas na evolução para sistemas capazes de executar tarefas complexas com pouca supervisão humana.
A chamada autonomia dos agentes de IA permite que um sistema planeje etapas, utilize ferramentas, escreva e execute código, pesquise informações e tome decisões intermediárias para alcançar determinado objetivo. Quanto maior essa autonomia, maior também pode ser o impacto de um erro ou de uma instrução mal interpretada.
Outro ponto de atenção é a possibilidade de autoaperfeiçoamento recursivo. Nesse cenário, uma IA suficientemente capaz poderia participar do desenvolvimento de versões mais avançadas de si mesma, acelerando o ciclo de evolução tecnológica.
A própria Anthropic reconhece que esse caminho ainda não foi alcançado de forma plena, mas afirma que está delegando uma parcela crescente do desenvolvimento de IA aos próprios sistemas. A empresa considera plausível que, no futuro, modelos possam ajudar a projetar e aprimorar seus sucessores.
O que significa o risco de uma IA sair do controle
A ideia de uma máquina simplesmente “decidir destruir a humanidade” é uma simplificação do problema.
Uma preocupação mais concreta é que sistemas muito poderosos recebam objetivos incompatíveis com interesses humanos e tenham acesso a ferramentas capazes de ampliar suas ações. Quanto maior a autonomia, a capacidade de planejamento e o acesso a computadores, redes e serviços externos, mais difícil pode ser prever todas as consequências de uma decisão.
Também existe o risco de uso deliberadamente malicioso por pessoas ou organizações.
Relatório divulgado pela Anthropic em setembro de 2026 descreveu operações nas quais seus modelos foram utilizados ou testados em atividades envolvendo ciberoperações, vigilância, influência, fraudes, armas convencionais e riscos biológicos. A empresa afirma ter interrompido as operações identificadas e utilizado os casos para reforçar seus mecanismos de segurança.
Isso demonstra que parte do problema não depende de uma IA desenvolver intenções próprias. Sistemas poderosos também podem ampliar a capacidade de indivíduos e grupos que já pretendem causar danos.
Infraestrutura crítica está entre as maiores preocupações
Especialistas citam como cenário de risco a utilização de inteligência artificial em ataques contra serviços essenciais.
Redes elétricas, sistemas financeiros, telecomunicações, transportes e estruturas digitais dependem cada vez mais de software. Uma ferramenta capaz de encontrar vulnerabilidades, coordenar operações e agir rapidamente poderia aumentar a escala de determinados ataques.
A desinformação é outro problema. Sistemas automatizados podem produzir grandes volumes de conteúdo, adaptar mensagens a diferentes públicos e operar continuamente em redes sociais. Em um cenário de conflito político ou militar, isso poderia dificultar a identificação da origem de campanhas coordenadas.
Por isso, o debate sobre segurança de IA não envolve somente uma eventual “superinteligência”. Há riscos que podem surgir muito antes disso e que já estão sendo investigados por governos e empresas.
O debate chegou às próprias empresas de IA
A discussão ganhou uma dimensão incomum porque parte das críticas veio de dentro das companhias responsáveis pelo desenvolvimento dos modelos.
Além de Coxon, outros pesquisadores da Anthropic manifestaram preocupação com o ritmo de avanço da tecnologia. Samuel Marks, da área de segurança da empresa, afirmou publicamente que profissionais do setor realmente consideram possíveis cenários extremos e que a preocupação tende a ser maior entre funcionários mais experientes.
O debate também passou a envolver executivos de empresas concorrentes. Em meio à crescente pressão pública, líderes do setor defenderam algum tipo de coordenação e avaliação de segurança antes que sistemas ainda mais avançados sejam colocados em circulação.
A discussão, portanto, deixou de ser exclusivamente acadêmica. Ela já envolve investidores, legisladores, empresas de tecnologia e governos.
Existe consenso de que a IA pode extinguir a humanidade?
Não.
Essa distinção é fundamental. Não existe consenso científico de que a inteligência artificial vá provocar a extinção humana, muito menos de que isso acontecerá nesta década.
Há pesquisadores que atribuem probabilidade relevante a cenários de perda de controle, enquanto outros consideram essas estimativas excessivamente especulativas. A própria existência de uma porcentagem, como os “mais de 10%” citados por Hubinger, não significa que exista um cálculo objetivo capaz de determinar a probabilidade real do evento.
O que existe é um consenso mais amplo de que sistemas avançados precisam ser testados, monitorados e desenvolvidos com mecanismos de segurança proporcionais às suas capacidades.
O que pode ser feito para reduzir os riscos
Uma das propostas mais discutidas é ampliar a avaliação independente dos modelos antes de sua implantação. Em vez de as próprias empresas serem as únicas responsáveis por verificar a segurança de seus sistemas, organizações externas poderiam realizar testes e auditorias.
Também ganham importância mecanismos de controle de acesso, monitoramento de agentes autônomos, limites para determinadas ferramentas e protocolos para interromper sistemas que apresentem comportamento inesperado.
A regulamentação é outro ponto central. Nos Estados Unidos, parlamentares já passaram a pressionar por medidas relacionadas à segurança de IA após os alertas dos pesquisadores.
Para o Brasil, a discussão também é relevante. O país precisa acompanhar a evolução tecnológica sem ignorar questões de segurança, proteção de dados, cibersegurança, mercado de trabalho e responsabilidade por danos provocados por sistemas automatizados.
Imagem: Reprodução/Seu Crédito Digital
