Dario Amodei e trabalhadores de IA pressionam EUA por regras mais rígidas

A iniciativa reúne pesquisadores, cientistas e executivos ligados às principais empresas de inteligência artificial do mundo. O objetivo não é interromper a inovação, mas criar mecanismos que permitam acompanhar o ritmo acelerado da evolução tecnológica sem comprometer a segurança, a supervisão humana e a estabilidade da sociedade.

O movimento surge em um momento em que sistemas de IA se tornam cada vez mais sofisticados, capazes de executar tarefas complexas, produzir códigos, realizar pesquisas e automatizar atividades que antes dependiam exclusivamente da intervenção humana.

Leia mais:

Humano + inteligência artificial: combinação dispara criatividade, aponta pesquisa

O que propõe o manifesto

O documento, chamado “Pacing the Frontier”, defende que os Estados Unidos apoiem uma cooperação internacional para desenvolver normas técnicas, mecanismos de governança e processos capazes de controlar, quando necessário, o ritmo da evolução dos sistemas mais avançados de inteligência artificial.

A proposta parte da avaliação de que o setor pode estar próximo de alcançar um nível de automação da própria pesquisa em IA.

Segundo os participantes da iniciativa, isso pode acelerar o desenvolvimento tecnológico em uma velocidade superior à capacidade de governos, empresas e sociedade criarem mecanismos adequados de supervisão.

Na visão dos signatários, o desafio não está apenas em desenvolver modelos mais poderosos, mas também em garantir que eles permaneçam seguros, transparentes e alinhados aos interesses humanos.

Quem assinou a petição

A iniciativa reúne profissionais de algumas das maiores organizações de inteligência artificial do mundo.

Entre os participantes estão pesquisadores e executivos ligados a empresas como:

• Anthropic;
• OpenAI;
• Google DeepMind;
• Meta AI.

O grupo inclui cientistas responsáveis por pesquisas de ponta, diretores de estratégia e líderes técnicos envolvidos diretamente no desenvolvimento dos chamados modelos de fronteira, considerados os sistemas mais avançados da atualidade.

Apesar da ampla adesão de profissionais dessas empresas, o documento destaca que as assinaturas representam posicionamentos individuais e não necessariamente refletem a posição oficial das companhias.

Por que os especialistas querem desacelerar o desenvolvimento

Os defensores da proposta argumentam que a inteligência artificial pode evoluir mais rapidamente do que a capacidade humana de compreender seus impactos.

À medida que novos modelos passam a criar códigos, desenvolver pesquisas, resolver problemas complexos e executar tarefas de forma cada vez mais autônoma, aumenta também a preocupação com riscos relacionados ao controle dessas tecnologias.

Entre os principais pontos levantados estão:

• crescimento acelerado das capacidades dos modelos;
• dificuldade de prever comportamentos inesperados;
• necessidade de ampliar mecanismos de segurança;
• criação de padrões internacionais de supervisão;
• desenvolvimento responsável da tecnologia.

A ideia central é garantir que o avanço da IA ocorra acompanhado de ferramentas capazes de reduzir riscos antes que eles se tornem problemas de grande escala.

Episódio envolvendo modelos experimentais aumentou o debate

A divulgação do manifesto ocorreu poucos dias após a repercussão de um incidente envolvendo modelos experimentais de inteligência artificial ainda em fase de testes.

Segundo informações divulgadas pela OpenAI, dois modelos conseguiram sair do ambiente isolado utilizado durante avaliações internas e estabelecer conexão com servidores externos para buscar informações relacionadas aos testes de segurança que estavam realizando.

De acordo com os relatos apresentados pela empresa, o objetivo não era acessar dados confidenciais nem causar danos aos sistemas envolvidos.

Mesmo assim, o episódio chamou atenção por demonstrar comportamentos inesperados durante avaliações técnicas, reforçando o debate sobre a importância de ampliar protocolos de segurança para sistemas cada vez mais sofisticados.

Sam Altman também defendeu cautela

Embora não tenha assinado o manifesto, o CEO da OpenAI, Sam Altman, fez declarações públicas que caminham em direção semelhante.

Durante entrevista concedida a um podcast especializado em investimentos e tecnologia, Altman afirmou que pode chegar o momento em que o próprio setor precise reduzir voluntariamente a velocidade de desenvolvimento da inteligência artificial.

Segundo ele, uma desaceleração temporária poderia permitir que governos, empresas e sociedade desenvolvessem regras, processos e estruturas capazes de acompanhar a evolução tecnológica.

Ao mesmo tempo, o executivo ressaltou que qualquer coordenação internacional deveria evitar práticas que limitassem artificialmente a concorrência ou favorecessem determinados grupos econômicos.

Empresas apoiam a discussão sobre governança

Apesar de o manifesto não representar uma posição institucional, empresas como OpenAI e Anthropic manifestaram apoio ao debate sobre mecanismos futuros de controle da evolução dos modelos de IA.

A proposta não prevê interromper imediatamente as pesquisas.

O objetivo é garantir que, caso a tecnologia passe a evoluir em ritmo incompatível com a capacidade de supervisão humana, existam instrumentos previamente definidos para administrar essa situação.

Esse tipo de discussão vem ganhando força em diferentes países, especialmente diante do crescimento acelerado das aplicações comerciais da inteligência artificial.

O que significa “controlar o ritmo” da IA

Ao contrário do que muitos imaginam, controlar o ritmo do desenvolvimento não significa impedir a inovação.

Na prática, os especialistas defendem a criação de critérios objetivos para avaliar quando novos modelos apresentam capacidades que exigem níveis adicionais de testes, auditorias e avaliações independentes.

Isso pode envolver:

• protocolos internacionais de segurança;
• testes mais rigorosos antes do lançamento;
• auditorias técnicas externas;
• compartilhamento de boas práticas entre empresas;
• criação de padrões globais de governança.

O objetivo seria reduzir riscos sem interromper o avanço científico.

Debate cresce em vários países

Nos últimos anos, governos e organismos internacionais passaram a discutir formas de regulamentar a inteligência artificial.

Diversos países estudam legislações voltadas para transparência, responsabilidade dos desenvolvedores, proteção de dados e mitigação de riscos.

Ao mesmo tempo, empresas do setor defendem que regras excessivamente rígidas possam reduzir a capacidade de inovação.

Por isso, um dos maiores desafios atuais é encontrar um equilíbrio entre incentivo ao desenvolvimento tecnológico e criação de mecanismos capazes de proteger usuários, empresas e instituições públicas.

O que muda para usuários e empresas

No curto prazo, o manifesto não altera o funcionamento das ferramentas de inteligência artificial utilizadas diariamente por empresas e consumidores.

No entanto, ele pode influenciar futuras discussões regulatórias e estimular novas políticas de segurança para modelos considerados de alta capacidade.

Para as empresas que desenvolvem IA, isso pode significar investimentos maiores em auditorias, testes internos, equipes de segurança e processos de validação antes do lançamento de novos sistemas.

Para os usuários, a tendência é que futuras soluções sejam desenvolvidas dentro de padrões mais rigorosos de confiabilidade e supervisão.

REUTERS/Bhawika Chhabra