Um pesquisador de inteligência artificial que trabalhou na OpenAI e na Anthropic deixou a indústria e acusou as duas empresas de avançarem de forma irresponsável na corrida pelo desenvolvimento de sistemas capazes de superar a inteligência humana.
Jacob Coxon, britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento de modelos de IA, primeiro na OpenAI e, posteriormente, na Anthropic. Ao anunciar sua saída na terça-feira (8), afirmou que os laboratórios estão “brincando com nossas vidas” ao avançarem em direção a uma possível superinteligência.
A declaração ocorre em um momento de forte disputa entre as principais empresas de tecnologia para desenvolver modelos cada vez mais avançados. O episódio também reacendeu o debate sobre os riscos de uma inteligência artificial capaz de participar do próprio processo de aperfeiçoamento.
Leia mais:
Beneficiários do INSS terão de fazer nova Carteira de Identidade dentro do prazo
Por que Jacob Coxon decidiu deixar a indústria de IA?
Coxon passou pela OpenAI antes de ingressar na Anthropic, empresa que havia escolhido justamente por considerá-la mais prudente em relação aos riscos da inteligência artificial.
Na terça-feira, porém, ele anunciou que estava deixando a indústria. Em uma publicação na rede social X, afirmou que nenhuma das duas empresas estaria agindo de maneira responsável.
Segundo o pesquisador, os laboratórios estão correndo para alcançar uma superinteligência que poderia ser capaz de se aprimorar sozinha. Para ele, o desenvolvimento desse tipo de tecnologia sem uma intervenção governamental coordenada representa um risco que não deveria ser tratado apenas pelas empresas.
Coxon também afirmou que pesquisadores envolvidos no desenvolvimento de IA levam a sério a possibilidade de que sistemas futuros possam causar a morte de seres humanos. Segundo ele, não se trata apenas de uma estratégia de marketing para chamar atenção.
O que é uma superinteligência artificial?
Superinteligência é o termo usado para descrever uma inteligência artificial hipotética que seria muito superior aos seres humanos em praticamente todas as atividades cognitivas.
A tecnologia atual já consegue superar pessoas em algumas tarefas específicas. Sistemas de IA podem, por exemplo, resolver problemas matemáticos, gerar códigos, analisar documentos e produzir textos e imagens.
Uma superinteligência, entretanto, seria algo muito mais amplo. A hipótese envolve uma máquina capaz de superar humanos em áreas como ciência, programação, estratégia, pesquisa e tomada de decisões simultaneamente.
Ainda não existe uma superinteligência desse tipo comprovadamente em operação.
A preocupação dos pesquisadores está justamente no que poderia acontecer caso os sistemas futuros alcançassem esse nível de capacidade.
O que significa autoaperfeiçoamento recursivo?
Um dos conceitos centrais nessa discussão é o chamado autoaperfeiçoamento recursivo.
A ideia é que uma inteligência artificial suficientemente avançada poderia ajudar a desenvolver uma versão ainda mais poderosa de si mesma. Essa nova versão, por sua vez, poderia contribuir para criar uma geração ainda mais capaz.
Em teoria, isso poderia formar um ciclo de aprimoramento:
IA avançada → desenvolvimento de uma IA melhor → nova IA ainda mais capaz → novo aprimoramento.
O receio de alguns pesquisadores é que esse processo aconteça em uma velocidade superior à capacidade humana de acompanhar, testar e controlar os sistemas.
É nesse ponto que a discussão deixa de ser apenas sobre ferramentas de IA e passa a envolver questões de segurança e governança.
Pesquisador da Anthropic estima risco superior a 10%
A declaração de Coxon ganhou ainda mais repercussão depois que Evan Hubinger, diretor de segurança da Anthropic, comentou o assunto publicamente.
Hubinger concordou que a empresa realmente considera possível que uma inteligência artificial possa causar a morte de seres humanos. Em uma estimativa pessoal, ele calculou em mais de 10% o risco de isso acontecer na próxima década.
O número, porém, precisa ser interpretado com cautela.
Não se trata de uma previsão científica consensual de que existe uma chance de 10% de a humanidade desaparecer. É uma estimativa individual de risco feita por um pesquisador que trabalha justamente com o problema de alinhamento e segurança de sistemas avançados.
Hubinger também diferenciou os modelos atuais desse cenário futuro. Segundo ele, o risco associado aos sistemas existentes é baixo em comparação com a possibilidade de uma futura superinteligência capaz de se aprimorar recursivamente.
O que é alinhamento de IA?
O termo alinhamento se refere às pesquisas destinadas a fazer com que o comportamento de uma inteligência artificial permaneça compatível com os objetivos e as intenções humanas.
Na prática, pesquisadores tentam encontrar maneiras de garantir que um sistema poderoso não desenvolva comportamentos perigosos ou siga objetivos de uma maneira inesperada.
Esse problema já existe em sistemas atuais, mas tende a ganhar importância conforme as ferramentas se tornam mais autônomas.
Uma IA que apenas responde a uma pergunta é muito diferente de um sistema capaz de executar tarefas durante horas, utilizar ferramentas, escrever programas, realizar pesquisas e tomar decisões sem supervisão constante.
Quanto maior a autonomia, maior é a preocupação sobre como prever e controlar seu comportamento.
Anthropic já adotou medidas de segurança
A saída de Coxon não significa que a Anthropic ignore os riscos relacionados à inteligência artificial.
A empresa possui políticas específicas para avaliar riscos de modelos avançados e estabelece medidas de segurança de acordo com o nível de capacidade de seus sistemas.
A Anthropic também já publicou documentos defendendo maior participação dos governos na definição de padrões de segurança para modelos avançados.
O ponto de discordância está justamente no ritmo do desenvolvimento. Para Coxon, as medidas existentes não seriam suficientes diante da velocidade da corrida tecnológica.
O que mudou na política de segurança da Anthropic?
Em fevereiro, a Anthropic retirou de sua carta de segurança um compromisso de interromper o desenvolvimento de determinados modelos caso não conseguisse controlar seus riscos.
A mudança chamou atenção porque a empresa vinha construindo parte de sua identidade pública justamente em torno de uma postura mais cautelosa em relação à inteligência artificial.
Para críticos como Coxon, decisões desse tipo mostram a dificuldade de manter limites rígidos quando existe uma forte competição entre os principais laboratórios.
OpenAI também pede cautela
A preocupação não está restrita à Anthropic.
No fim de julho, mais de mil profissionais do setor de inteligência artificial, incluindo o CEO da Anthropic, Dario Amodei, pediram ao governo dos Estados Unidos que preparasse mecanismos de segurança para lidar com o avanço da tecnologia.
Mais recentemente, Jakub Pachocki, cientista-chefe da OpenAI, afirmou que o momento exige “extrema cautela” e defendeu maior coordenação internacional.
A posição mostra que existe uma preocupação crescente dentro da própria indústria sobre o ritmo de evolução dos modelos.
Ao mesmo tempo, OpenAI, Anthropic e outras empresas continuam investindo pesadamente em sistemas mais avançados. Isso cria um dos principais dilemas do setor: como reduzir os riscos sem deixar que uma empresa que adote medidas de cautela fique em desvantagem diante das concorrentes.
A IA atual pode acabar com a humanidade?
Não há evidência de que os sistemas de inteligência artificial disponíveis atualmente estejam prestes a provocar a extinção humana.
O cenário mencionado por Hubinger está relacionado a uma possibilidade futura envolvendo sistemas muito mais capazes e autônomos.
Isso não significa que a IA atual não apresente riscos.
Fraudes, desinformação, manipulação de conteúdo, ataques cibernéticos, decisões automatizadas equivocadas e impactos sobre empregos já fazem parte das discussões concretas sobre a tecnologia.
O risco de extinção por uma superinteligência pertence a outra categoria: é uma possibilidade futura e altamente incerta que divide especialistas.
Por que as empresas continuam desenvolvendo IA mesmo diante desses riscos?
Existe uma forte competição econômica e tecnológica.
Empresas que desenvolvem modelos mais poderosos podem conquistar vantagens em áreas como programação, pesquisa científica, automação, serviços financeiros e produtividade.
Governos também consideram a inteligência artificial uma tecnologia estratégica, o que aumenta a pressão para que empresas e países não fiquem para trás.
Esse ambiente pode criar um problema conhecido como corrida tecnológica.
Se uma empresa acredita que seus concorrentes continuarão avançando, pode concluir que desacelerar sozinha seria arriscado. O resultado pode ser uma pressão coletiva para desenvolver sistemas cada vez mais capazes antes que existam mecanismos de segurança considerados suficientes por todos.
É justamente por isso que Coxon defende uma desaceleração coordenada, e não apenas uma decisão isolada de uma empresa.
O que pode acontecer daqui para frente?
A saída de Coxon pode aumentar a pressão sobre as empresas para explicar como pretendem lidar com sistemas de IA cada vez mais avançados.
Entre as propostas discutidas por pesquisadores estão testes independentes, avaliações de segurança antes do lançamento de modelos poderosos, maior transparência sobre incidentes e regras governamentais específicas.
Outra possibilidade é a criação de padrões internacionais. A ideia seria evitar que empresas adotem níveis muito diferentes de segurança enquanto competem pelo mesmo mercado.
O desafio está em encontrar um equilíbrio entre inovação e controle.
Uma regulamentação excessivamente rígida poderia dificultar o desenvolvimento de aplicações úteis. Por outro lado, regras insuficientes poderiam deixar governos e sociedade reagindo apenas depois que problemas graves surgirem.
O que o caso revela sobre o futuro da inteligência artificial?
A saída de Jacob Coxon expõe uma contradição que está no centro da atual corrida pela inteligência artificial.
Quanto mais poderosos os sistemas ficam, maior é a necessidade de pesquisas de segurança. Mas quanto maior a competição entre as empresas, maior também é o incentivo para continuar acelerando o desenvolvimento.
O debate, portanto, não é simplesmente sobre ser “a favor” ou “contra” a inteligência artificial.
A questão central é quem define os limites, quais testes devem ser realizados e em que momento uma tecnologia avançada deve ser considerada segura o suficiente para ser disponibilizada.
Por enquanto, não existe consenso sobre quando uma superinteligência será criada, se ela será efetivamente desenvolvida ou qual seria seu comportamento.
O que existe é uma discussão cada vez mais intensa entre pesquisadores, empresas e governos sobre como se preparar para essa possibilidade antes que ela se torne realidade.
Conclusão
A saída de Jacob Coxon expõe uma das principais tensões da atual corrida pela inteligência artificial: a busca por sistemas cada vez mais poderosos acontece ao mesmo tempo em que pesquisadores ainda discutem como garantir que essas tecnologias permaneçam sob controle humano.
O alerta não significa que a IA atual esteja prestes a causar uma catástrofe. Mas mostra que os próprios profissionais envolvidos no desenvolvimento desses sistemas consideram necessário discutir limites, testes de segurança e mecanismos de supervisão antes que capacidades ainda mais avançadas sejam alcançadas.
Para empresas e governos, o desafio será encontrar um equilíbrio entre inovação e segurança. Para a sociedade, acompanhar esse debate se torna cada vez mais importante, já que as decisões tomadas agora podem definir como a inteligência artificial será desenvolvida e utilizada nos próximos anos.
