‘Eles simplesmente não funcionam’: cofundador da OpenAI detonou agentes de IA

Em uma participação recente no Dwarkesh Podcast, Karpathy foi direto: “Eles simplesmente não funcionam”. Segundo ele, as ferramentas atuais carecem de inteligência real, multimodalidade e capacidade de aprendizado contínuo.

“Eles são cognitivamente deficientes e simplesmente não estão funcionando”, afirmou Karpathy, estimando que levará cerca de uma década para resolver essas questões fundamentais.

Continue lendo para entender os desafios dos agentes de IA e como a OpenAI enxerga o futuro dessa tecnologia.

Leia mais: Governo unifica calendário e paga R$ 168,7 mi em outubro

Agentes de IA x realidade: por que ainda não funcionam

A declaração de Karpathy representa um alerta sobre um dos tópicos mais promovidos pela indústria de tecnologia. Muitos investidores chegaram a apelidar 2025 como “o ano do agente”, esperando que esses sistemas realizassem tarefas como agendar viagens, gerenciar e-mails ou até desenvolver softwares com mínima intervenção humana.

No entanto, como explicou Quintin Au, líder de crescimento da ScaleAI, os erros se acumulam rapidamente:

• Se um modelo de linguagem tem 80% de precisão em cada ação,
• A chance de um agente completar corretamente uma tarefa de cinco passos cai para apenas 32%.

Ou seja, cada etapa aumenta o risco de falha, tornando os agentes menos confiáveis do que o esperado.

A crítica da OpenAI sobre a indústria de IA

Em publicações no X (antigo Twitter), Karpathy reforçou que sua crítica é principalmente à direção que a indústria vem tomando.

Para ele, muitas empresas vivem em um futuro hipotético: entidades totalmente autônomas colaboram em paralelo para escrever todo o código, tornando os humanos praticamente inúteis.

Karpathy defende, em vez disso, colaboração entre humanos e IA:

“Eu quero que [a IA] puxe a documentação da API e me mostre que usou as coisas corretamente. Quero que ela faça menos suposições e colabore comigo quando não tiver certeza de algo.”

Ele também alerta para o risco da proliferação de AI slop, conteúdo de baixa qualidade gerado por IA, que já se tornou um problema significativo nas redes sociais.

Vibe coding: inovação limitada, segundo Karpathy

Karpathy popularizou o conceito de vibe coding, uma abordagem que propõe esquecer a existência do código tradicional. Em vez de escrever linhas de comando, o programador descreve o que deseja em linguagem natural, e a IA faz o trabalho pesado.

Ele mesmo experimentou ferramentas como:

• Composer, da Cursor AI
• Sonnet, da Anthropic

Com essas plataformas, é possível ditar comandos por voz e corrigir erros apenas copiando mensagens de volta para a IA. A Google também trouxe recentemente a plataforma Opal, que segue essa lógica, chegando ao Brasil.

Limitações práticas do vibe coding

Apesar do potencial, Karpathy admitiu que não conseguiu codificar seu programa Nanochat usando agentes de IA como Claude ou Codex. Ele preferiu desenvolver tudo manualmente.

As limitações do vibe coding incluem:

1. Geração de código descontrolada em projetos maiores
2. Vulnerabilidades de segurança potencialmente introduzidas automaticamente
3. Necessidade de intervenção humana constante para evitar erros

Para Karpathy, o modelo funciona bem em tarefas simples, mas ainda não é confiável para projetos complexos.

Colaboração humano-IA: o futuro defendido pela OpenAI

Segundo o executivo, a estratégia ideal não é substituir programadores ou profissionais humanos. O objetivo é que a IA:

• Auxilie na execução de tarefas repetitivas
• Colabore em tempo real quando surgirem dúvidas
• Aumente produtividade sem comprometer qualidade

Essa abordagem, defendida por Karpathy e pela OpenAI, visa reduzir erros acumulativos e melhorar a confiabilidade dos agentes de IA, sem criar sistemas totalmente autônomos que possam gerar falhas em cascata.

Por que os agentes de IA ainda não entregam

A combinação de fatores explica por que agentes de IA ainda não funcionam como esperado:

• Limitações de multimodalidade: dificuldade em processar múltiplos tipos de dados simultaneamente
• Falta de aprendizado contínuo: agentes não conseguem melhorar sozinhos em tarefas complexas
• Erros cumulativos: pequenas falhas em cada passo resultam em resultados finais incorretos
• Produção de conteúdo de baixa qualidade (AI slop)

Karpathy afirma que uma década será necessária para superar esses desafios, destacando que a promessa de automação completa ainda está distante da realidade.

A visão da OpenAI sobre agentes de IA

A OpenAI, através de Karpathy, reforça que agentes de IA não são falhos por completo, mas precisam de supervisão humana constante. A colaboração homem-máquina é vista como o caminho para aumentar a produtividade sem comprometer a precisão.

“O ideal é que a IA puxe documentação, consulte APIs e me informe quando não tiver certeza, ao invés de supor e gerar erros”, completa Karpathy.

Essa filosofia se alinha ao propósito da OpenAI de criar IA segura, eficiente e confiável, ao mesmo tempo em que promove inovação tecnológica.

Perspectivas futuras: IA com mais autonomia

Embora os agentes atuais estejam longe da perfeição, Karpathy acredita que o avanço virá de forma gradual, com foco em:

• Integração humano-IA
• Redução de erros acumulativos
• Aprendizado multimodal contínuo
• Segurança e confiabilidade do código gerado

Segundo ele, só com esses elementos os agentes de IA poderão cumprir de fato as promessas feitas pelo mercado de tecnologia.

Com informações de: Tecnoblog