A possibilidade de sistemas avançados de inteligência artificial representarem um risco extremo para a humanidade voltou ao centro do debate tecnológico. O alerta ganhou força após Bilal Chughtai, ex-engenheiro de pesquisa da Google DeepMind, afirmar que acredita que a IA pode chegar a um ponto capaz de ameaçar a sobrevivência humana.
Chughtai deixou a Google DeepMind em julho de 2026 e tornou pública sua preocupação em uma publicação nas redes sociais. O pesquisador, que atuava na área de segurança e alinhamento de inteligência artificial geral, defendeu maior coordenação entre empresas e governos para evitar que a corrida pelo desenvolvimento de sistemas cada vez mais avançados aconteça sem mecanismos de segurança suficientes.
A declaração ocorreu poucos dias depois de outro ex-pesquisador da Anthropic, Jacob Coxon, fazer alertas semelhantes. O episódio reacendeu uma discussão que divide especialistas: até que ponto os riscos futuros da inteligência artificial podem ser previstos e quais medidas devem ser adotadas antes que sistemas mais poderosos sejam desenvolvidos.
Leia mais:
INSS alerta segurados sobre novo golpe envolvendo a prova de vida
O que Bilal Chughtai afirmou sobre a inteligência artificial
Ao explicar sua saída da Google DeepMind, Chughtai afirmou acreditar que a inteligência artificial tem potencial para provocar a morte de toda a humanidade. Segundo ele, também existe a possibilidade de que o tempo disponível para evitar um cenário extremo esteja diminuindo.
A declaração deve ser entendida como uma avaliação pessoal do pesquisador, e não como uma previsão científica comprovada de que a humanidade será destruída pela IA.
Chughtai trabalhava justamente com segurança e alinhamento de sistemas avançados. Essa área da pesquisa busca encontrar maneiras de fazer com que modelos de inteligência artificial permaneçam sob controle humano e sigam objetivos e restrições estabelecidos por seus desenvolvedores.
Para o pesquisador, um dos principais problemas está na velocidade da corrida tecnológica. Empresas competem para criar sistemas mais capazes, enquanto pesquisadores tentam desenvolver mecanismos que permitam avaliar e controlar essas novas capacidades.
Por que pesquisadores estão preocupados com sistemas mais avançados
Os modelos de inteligência artificial atuais já conseguem executar tarefas que, até poucos anos atrás, exigiam participação humana significativa. Eles podem escrever códigos, analisar grandes volumes de informação, produzir conteúdos e utilizar diferentes ferramentas digitais.
A preocupação apresentada por pesquisadores de segurança aumenta quando se considera uma possível evolução para sistemas com maior autonomia.
Uma IA capaz de executar uma tarefa simples apresenta riscos diferentes de uma tecnologia capaz de estabelecer objetivos intermediários, utilizar ferramentas, tomar decisões em sequência e operar durante longos períodos sem supervisão humana constante.
É nesse contexto que aparece o conceito de alinhamento.
O que significa alinhamento de IA?
O alinhamento é uma área de pesquisa que busca fazer com que o comportamento de um sistema de inteligência artificial permaneça compatível com as intenções e os limites definidos pelos seres humanos.
Em termos simples, a ideia é garantir que uma IA poderosa não apenas seja capaz de realizar uma determinada tarefa, mas também compreenda e respeite restrições relacionadas à segurança.
O desafio fica mais complexo conforme aumentam as capacidades dos modelos. Um sistema mais autônomo pode encontrar maneiras inesperadas de atingir determinado objetivo, o que torna necessário desenvolver mecanismos de supervisão, avaliação e correção.
É justamente essa possibilidade que está por trás de parte dos alertas feitos por pesquisadores especializados em segurança de IA.
Ex-pesquisador da Anthropic também fez alerta
O alerta de Chughtai não foi um caso isolado.
Jacob Coxon, ex-pesquisador da Anthropic, anunciou recentemente sua saída da empresa e relacionou sua decisão às preocupações com o desenvolvimento acelerado da inteligência artificial.
Coxon afirmou que profissionais envolvidos na criação desses sistemas acreditam que existe a possibilidade de uma IA avançada provocar a morte de toda a humanidade ainda nesta década.
A afirmação provocou reação de outros pesquisadores. Evan Hubinger, da Anthropic, declarou acreditar que existe uma probabilidade superior a 10% de sistemas de inteligência artificial causarem a morte de toda a população humana ao longo da próxima década.
Essa porcentagem, porém, não representa um consenso científico. Trata-se de uma estimativa individual de Hubinger sobre um cenário futuro e altamente incerto.
O que é uma superinteligência artificial?
Grande parte das preocupações mais extremas está relacionada ao conceito de superinteligência.
O termo é utilizado para descrever uma inteligência artificial hipotética que seria superior aos seres humanos em praticamente todas as tarefas cognitivas relevantes.
Esse tipo de sistema ainda não existe de forma comprovada.
Os modelos disponíveis atualmente são capazes de desempenhar tarefas sofisticadas, mas isso não significa que tenham alcançado uma inteligência geral superior à humana em todas as áreas.
O temor de alguns pesquisadores está relacionado ao que poderia ocorrer caso sistemas futuros adquirissem capacidades muito maiores e também passassem a atuar com elevado grau de autonomia.
IA pode realmente destruir a humanidade?
Essa possibilidade é objeto de debate entre pesquisadores e não pode ser tratada como um fato estabelecido.
Há especialistas que consideram os riscos existenciais plausíveis e defendem que medidas de segurança sejam adotadas antes do desenvolvimento de sistemas ainda mais avançados.
Outros pesquisadores questionam a possibilidade de estimar com precisão cenários de extinção e defendem maior atenção a riscos mais concretos associados às tecnologias atuais, como fraude, ataques cibernéticos, desinformação, violações de privacidade e uso militar.
Por isso, uma declaração de um pesquisador sobre a possibilidade de extinção não significa que exista uma previsão científica de que esse resultado acontecerá.
Dario Amodei defende cautela no desenvolvimento
O debate também envolve os próprios executivos das empresas que desenvolvem sistemas avançados.
Dario Amodei, CEO da Anthropic, defendeu uma redução no ritmo de desenvolvimento dos modelos mais avançados. A proposta está relacionada à necessidade de fazer com que mecanismos de segurança acompanhem o aumento das capacidades das ferramentas.
A discussão envolve medidas como testes antes do lançamento, avaliações independentes, maior transparência e mecanismos para impedir que sistemas altamente capazes ultrapassem determinados limites.
A ideia não necessariamente significa interromper o desenvolvimento da inteligência artificial, mas criar condições para que a expansão de suas capacidades seja acompanhada por mecanismos de controle.
Empresas estão em uma corrida pela IA
Um dos pontos centrais das críticas feitas por Chughtai é a competição entre grandes empresas de tecnologia.
Companhias como Google, OpenAI e Anthropic investem bilhões de dólares na criação de modelos cada vez mais sofisticados. A disputa também possui implicações econômicas e geopolíticas, principalmente diante da competição tecnológica entre Estados Unidos e China.
Para pesquisadores preocupados com segurança, uma competição muito acelerada pode criar incentivos para que empresas priorizem velocidade e capacidade antes que todos os riscos de determinado sistema tenham sido devidamente avaliados.
Por outro lado, governos e empresas também argumentam que avanços rápidos na inteligência artificial podem produzir benefícios econômicos e científicos importantes.
Donald Trump é contrário a uma desaceleração ampla
Nos Estados Unidos, o presidente Donald Trump adotou uma posição diferente dos pesquisadores que defendem uma desaceleração.
Trump criticou o que considera preocupações exageradas em relação à inteligência artificial e defendeu a continuidade do desenvolvimento americano da tecnologia.
A posição está relacionada também à disputa estratégica com a China. Para o governo americano, manter liderança no setor de IA possui importância econômica, tecnológica e geopolítica.
A divergência mostra que o debate não é exclusivamente científico. Ele também envolve decisões sobre competitividade, investimentos, regulamentação e segurança nacional.
União Europeia também discute os riscos
Na Europa, a preocupação com os chamados modelos de fronteira também ganhou espaço entre autoridades.
A presidente da Comissão Europeia, Ursula von der Leyen, defendeu discussões com empresas responsáveis pelo desenvolvimento de sistemas avançados para tratar dos riscos associados a essas tecnologias.
A União Europeia já possui uma estrutura regulatória específica para inteligência artificial, com regras que estabelecem diferentes obrigações de acordo com os níveis de risco dos sistemas.
A tendência internacional é de aumento da participação dos governos na definição de requisitos de segurança, transparência e responsabilidade para tecnologias de IA.
Quais são os riscos da IA que já existem?
Não é necessário esperar uma superinteligência para que a inteligência artificial produza problemas.
Os sistemas atuais já podem ser utilizados para criar golpes mais sofisticados, produzir conteúdos falsos em grande escala, automatizar ataques digitais e facilitar diferentes tipos de fraude.
Também existem preocupações relacionadas à privacidade, discriminação algorítmica e utilização inadequada de informações pessoais.
Esses riscos são diferentes de um cenário de extinção da humanidade e podem ser analisados com base em situações concretas que já ocorrem atualmente.
A inteligência artificial atual pode acabar com a humanidade?
As declarações recentes de pesquisadores não demonstram que os sistemas de IA disponíveis atualmente tenham capacidade de exterminar a humanidade.
Os cenários mais extremos discutidos por especialistas estão relacionados principalmente a sistemas futuros com capacidades muito superiores às atuais.
Isso não significa que as ferramentas existentes sejam totalmente seguras. Significa apenas que é necessário separar os problemas atuais das hipóteses sobre o desenvolvimento futuro da tecnologia.
Essa distinção é fundamental para compreender o debate sem transformar estimativas e cenários hipotéticos em acontecimentos já confirmados.
O que pode acontecer daqui para frente?
A tendência é que a segurança da inteligência artificial continue ganhando espaço nas discussões entre empresas, pesquisadores e governos.
Entre as medidas debatidas estão auditorias, avaliações de segurança antes do lançamento de modelos, supervisão humana, mecanismos de desligamento e pesquisas destinadas a melhorar o alinhamento dos sistemas.
Também cresce a discussão sobre cooperação internacional. A preocupação de pesquisadores como Chughtai é que uma corrida tecnológica sem coordenação possa fazer com que os sistemas avancem mais rapidamente do que as ferramentas destinadas a controlar seus riscos.
O debate, portanto, não envolve apenas a pergunta sobre se a IA pode destruir a humanidade. Também envolve uma questão prática: como desenvolver sistemas cada vez mais poderosos sem perder a capacidade de supervisioná-los?
O alerta significa que a humanidade está prestes a ser destruída?
Não há evidência apresentada nas declarações recentes que permita afirmar isso.
Bilal Chughtai fez uma avaliação sobre um possível cenário futuro e defendeu mudanças na maneira como o setor desenvolve sistemas avançados. Evan Hubinger apresentou uma estimativa individual sobre um risco de extinção, enquanto outros especialistas discordam sobre a probabilidade e até mesmo sobre a forma como esses cenários devem ser avaliados.
O ponto central do episódio é outro: pesquisadores que trabalham diretamente com inteligência artificial estão discutindo publicamente os riscos associados ao avanço das capacidades dos sistemas.
A tecnologia continuará evoluindo, e a segurança terá de acompanhar esse processo. Para o público, entender a diferença entre riscos já observados, previsões e cenários hipotéticos é essencial para acompanhar o debate sem confundir possibilidade com certeza.