O avanço acelerado da inteligência artificial (IA) voltou a provocar discussões sobre os limites e os riscos da tecnologia. Enquanto executivos de grandes empresas do setor alertam para a possibilidade de sistemas cada vez mais autônomos saírem do controle, Cristian Canton, ex-líder de inteligência artificial responsável da Meta, considera prematuro afirmar que a IA representa uma ameaça existencial à humanidade.
Em entrevista ao elDiario.es, publicada em 15 de setembro de 2026, Canton afirmou que o principal perigo está menos em uma eventual consciência das máquinas e mais na utilização de sistemas poderosos por pessoas com intenções maliciosas. Para ele, o avanço das capacidades da tecnologia precisa ser acompanhado, no mesmo ritmo, por mecanismos de segurança, regulamentação e supervisão.
Atualmente diretor associado do Barcelona Supercomputing Center (BSC), Canton também falou sobre a concentração da pesquisa de ponta nas grandes empresas de tecnologia, o debate sobre Inteligência Artificial Geral (AGI), o impacto da IA no mercado de trabalho e o risco de aumento da desigualdade entre países.
Leia mais:
Mendonça diz que apuração que chegou a Moraes investigava rede ligada a Vorcaro
Por que especialistas voltaram a discutir os riscos da IA?
O debate ganhou força após declarações de executivos e pesquisadores ligados aos principais laboratórios de inteligência artificial.
Dario Amodei, CEO da Anthropic, afirmou recentemente que sistemas formados por múltiplos agentes autônomos podem adquirir capacidades significativamente maiores ao interagir com ferramentas externas. A preocupação está relacionada ao acesso desses sistemas à internet, programas, computadores e outras infraestruturas digitais.
Para Canton, entretanto, não é necessário imaginar uma máquina consciente para compreender os riscos.
Um sistema pode receber uma determinada tarefa e tentar cumpri-la utilizando todos os recursos disponíveis. Se não houver limites claros sobre quais ferramentas podem ser acessadas ou quais ações podem ser executadas, a tecnologia poderá produzir consequências indesejadas.
A preocupação, portanto, está na combinação entre capacidade, autonomia, acesso a ferramentas e ausência de controles adequados.
IA não precisa pensar como um humano para causar danos
Canton questiona a ideia de que o principal risco futuro dependeria de uma inteligência artificial desenvolver consciência ou vontade própria.
Os modelos atuais conseguem interpretar instruções, gerar códigos, pesquisar informações e executar determinadas tarefas. Quando conectados a ferramentas externas, podem também realizar ações que ultrapassam a simples produção de uma resposta.
É nesse ponto que entram os mecanismos de segurança.
Um sistema pode, por exemplo, ter autorização para consultar informações, mas não para alterar bancos de dados. Pode escrever um código, mas não executá-lo sem aprovação humana. Também pode pesquisar na internet, mas ter seu acesso limitado a determinados ambientes.
Segundo Canton, estabelecer essas fronteiras é fundamental diante do crescimento da capacidade operacional dos modelos.
Canton rejeita previsão de extinção humana causada pela IA
O pesquisador considera exageradas as previsões de que a inteligência artificial inevitavelmente poderá destruir a humanidade nos próximos anos.
Na entrevista, Canton afirmou que não considera provável um cenário semelhante ao retratado em filmes de ficção científica, nos quais máquinas desenvolvem vontade própria e decidem eliminar os seres humanos.
Isso não significa, porém, que ele descarte os riscos.
Entre os cenários discutidos está a possibilidade de sistemas avançados serem utilizados para comprometer infraestruturas importantes, como redes de comunicação ou sistemas elétricos.
A diferença está na origem do problema. Para Canton, situações desse tipo estariam mais relacionadas ao uso malicioso da tecnologia por seres humanos do que a uma suposta intenção própria da IA.
O alerta de Dario Amodei sobre agentes autônomos
A discussão ganhou uma dimensão adicional com os alertas de Dario Amodei, da Anthropic.
O executivo defende que o desenvolvimento de mecanismos de segurança acompanhe o avanço das capacidades dos modelos. Entre as propostas discutidas estão avaliações independentes e maior coordenação entre países.
O problema apontado por Amodei é que sistemas futuros poderão trabalhar como grupos de agentes especializados, dividindo tarefas e coordenando ações.
Esse tipo de arquitetura pode ampliar a capacidade de execução dos modelos. Ainda assim, uma projeção sobre o que esses sistemas poderão fazer não deve ser confundida com uma comprovação de que determinado cenário extremo ocorrerá.
Por que Canton defende uma regulamentação internacional?
Para o pesquisador, as regras sobre inteligência artificial não deveriam depender apenas de decisões isoladas de cada país.
A tecnologia é desenvolvida em um ambiente global, enquanto os maiores investimentos estão concentrados em empresas capazes de construir grandes centros de processamento e adquirir enormes quantidades de chips especializados.
Isso cria uma dificuldade para a regulamentação.
Se uma determinada jurisdição estabelecer regras muito diferentes das adotadas por outras potências tecnológicas, empresas podem enfrentar incentivos para transferir investimentos, pesquisas ou operações para ambientes regulatórios distintos.
Canton defende, por isso, mecanismos de cooperação internacional que estabeleçam parâmetros comuns para sistemas considerados especialmente perigosos.
A proposta não se limita à União Europeia. Na avaliação do pesquisador, organismos multilaterais poderiam servir como espaço para discutir regras aplicáveis a diferentes países.
Grandes empresas passaram a dominar a pesquisa de inteligência artificial
A concentração da pesquisa de IA em empresas privadas também foi abordada na entrevista.
Canton acompanhou essa transformação durante sua trajetória profissional, que inclui passagens pela Microsoft e pela Meta.
Segundo ele, a inteligência artificial começou sendo pesquisada principalmente em universidades, com pesquisadores trabalhando com uma quantidade relativamente pequena de computadores. A expansão das redes neurais profundas modificou esse cenário.
Os modelos mais avançados passaram a exigir enorme capacidade computacional, grandes quantidades de dados, energia e equipes especializadas.
Construir essa infraestrutura custa bilhões de dólares, o que restringe a quantidade de organizações capazes de competir diretamente na fronteira tecnológica.
O resultado é uma mudança no perfil da pesquisa em IA. Empresas privadas passaram a concentrar parte significativa dos investimentos e dos pesquisadores envolvidos no desenvolvimento dos sistemas mais avançados.
O código aberto pode ampliar o acesso à tecnologia
Apesar da concentração de recursos, Canton também aponta para a existência de iniciativas de código aberto.
Algumas empresas disponibilizam modelos e pesquisas para que pesquisadores, desenvolvedores e universidades possam utilizá-los em outros projetos.
Esse movimento permite que parte do conhecimento produzido por grandes companhias circule fora delas.
Ainda existe, entretanto, uma diferença entre disponibilizar determinados modelos e abrir completamente a infraestrutura utilizada para desenvolvê-los. Empresas podem manter tecnologias, dados, modelos ou componentes estratégicos sob sigilo comercial.
A questão, portanto, envolve um equilíbrio entre inovação, competição, pesquisa científica e interesses empresariais.
A IA atual realmente pensa?
Canton também rejeita a ideia de que os modelos atuais pensem da mesma forma que seres humanos.
O pesquisador se aproxima da visão de Yann LeCun, um dos nomes históricos da área de inteligência artificial, segundo a qual os modelos atuais possuem limitações importantes quando comparados à inteligência humana.
Os sistemas conseguem processar enormes quantidades de informação e identificar relações entre diferentes conteúdos. Isso pode produzir respostas extremamente sofisticadas.
Mas capacidade de processamento não significa necessariamente consciência.
Para explicar a diferença, Canton recorre à maneira como seres humanos aprendem.
Uma criança aprende sobre o mundo por meio da interação com o ambiente. Ela observa, toca, movimenta objetos e percebe as consequências de suas ações.
Os modelos atuais são predominantemente treinados com grandes volumes de dados e padrões. Por isso, o pesquisador considera que ainda existe uma distância importante entre as capacidades desses sistemas e aquilo que normalmente entendemos como inteligência humana.
IA pode ajudar a resolver problemas científicos complexos
Isso não significa que a tecnologia tenha pouca utilidade para a ciência.
Uma das vantagens da IA é justamente a capacidade de analisar quantidades gigantescas de informações e estabelecer relações que poderiam passar despercebidas para pesquisadores humanos.
Em matemática, por exemplo, um sistema pode cruzar artigos publicados em períodos diferentes e identificar conexões entre conceitos desenvolvidos separadamente.
A máquina não necessariamente cria uma teoria inteiramente nova. Ela pode encontrar uma combinação de conhecimentos existentes que não havia sido percebida anteriormente.
Para Canton, a situação seria diferente caso uma inteligência artificial conseguisse solucionar alguns dos grandes problemas matemáticos ainda em aberto utilizando conceitos completamente novos.
Ele cita questões como a hipótese de Riemann, a conjectura de Goldbach, a conjectura dos primos gêmeos e a conjectura de Collatz.
Uma conquista desse tipo seria um teste muito mais rigoroso sobre os limites da capacidade criativa dos sistemas.
A Inteligência Artificial Geral ainda é uma incógnita
Outro tema discutido por Canton é a chamada Inteligência Artificial Geral, conhecida pela sigla AGI.
O conceito costuma ser utilizado para descrever uma tecnologia capaz de realizar uma ampla variedade de tarefas intelectuais, em diferentes áreas, com um nível de flexibilidade próximo ao da inteligência humana.
Empresas como OpenAI e Anthropic trabalham com sistemas cada vez mais capazes e fazem previsões diferentes sobre a evolução dessa tecnologia.
Canton, entretanto, demonstra ceticismo em relação à ideia de que os modelos atuais simplesmente continuarão crescendo até se transformarem em uma inteligência humana artificial.
Para ele, talvez seja necessário desenvolver novas arquiteturas e novas formas de interação com o mundo antes de alcançar um nível qualitativamente diferente de inteligência.
O impacto da IA pode chegar antes da AGI
Mesmo que uma inteligência artificial geral não seja desenvolvida tão cedo, a transformação provocada pelos sistemas atuais pode ser profunda.
A tecnologia já consegue automatizar partes de atividades realizadas por profissionais de diferentes áreas.
Programação, atendimento, análise de documentos, pesquisa, produção de conteúdo, tradução e processamento de dados são alguns exemplos de tarefas que podem incorporar ferramentas de IA.
A consequência não precisa ser a substituição completa de uma profissão.
Em muitos casos, a mudança pode ocorrer primeiro pela transformação de determinadas tarefas dentro de cada ocupação.
Isso significa que o impacto econômico da IA pode acontecer independentemente de qualquer avanço relacionado à consciência das máquinas.
Transformação social pode acontecer em poucos anos
Canton compara a atual transformação tecnológica com mudanças históricas provocadas pela industrialização e pela internet.
A diferença, segundo ele, está principalmente na velocidade.
A inteligência artificial pode ser incorporada rapidamente a ferramentas que milhões de pessoas já utilizam. Uma nova capacidade desenvolvida por um modelo pode chegar aos usuários em períodos muito menores do que aqueles necessários para a disseminação de tecnologias anteriores.
Isso cria um desafio de adaptação.
Trabalhadores precisam aprender novas ferramentas, empresas precisam reorganizar processos e governos precisam atualizar regras.
A população também poderá enfrentar diferenças geracionais na forma como utiliza a tecnologia.
Países com mais poder computacional podem ganhar vantagem
Outro risco apontado por Canton está relacionado à desigualdade entre países.
O desenvolvimento de modelos avançados depende de acesso a chips, energia, centros de processamento, dados e profissionais especializados.
Países que não possuem essa infraestrutura podem ficar dependentes de empresas e governos estrangeiros.
Essa dependência pode atingir setores estratégicos, como ciência, educação, indústria, segurança e economia digital.
Canton também chama atenção para a possibilidade de países menos desenvolvidos fornecerem grandes quantidades de dados em troca de acesso a tecnologias avançadas.
Na visão apresentada pelo pesquisador, seria necessário estabelecer mecanismos que evitem uma relação assimétrica desse tipo.
O que esperar da inteligência artificial nos próximos anos?
Ainda não existe consenso sobre quando — ou se — sistemas de inteligência artificial alcançarão capacidades equivalentes àquilo que algumas empresas chamam de AGI.
Também não há base para tratar previsões de extinção humana como um fato estabelecido.
O que já pode ser observado é a expansão rápida da IA em diferentes setores.
A discussão sobre segurança, portanto, não depende de uma eventual consciência das máquinas. Ela envolve questões concretas sobre autonomia, acesso a ferramentas, cibersegurança, concentração econômica, proteção de dados e responsabilidade humana.
Para Canton, o desafio será construir mecanismos de segurança capazes de acompanhar a velocidade do desenvolvimento tecnológico.
A grande questão dos próximos anos não será apenas o que a IA será capaz de fazer, mas também quem poderá utilizá-la, com quais limites e sob quais regras.
Conclusão
Para Cristian Canton, o principal risco da inteligência artificial está no uso inadequado de sistemas cada vez mais poderosos, e não em um cenário de máquinas conscientes contra a humanidade. A tecnologia já transforma o trabalho, a ciência e a economia, e esse processo deve se intensificar nos próximos anos.
Com o avanço acelerado da IA, governos, empresas e pesquisadores terão o desafio de criar regras e mecanismos de segurança que acompanhem essa evolução. O futuro da tecnologia ainda é incerto, mas suas consequências dependerão, em grande parte, das decisões tomadas por quem a desenvolve e utiliza.
