A velocidade com que a inteligência artificial está avançando levou a Organização das Nações Unidas a fazer um dos alertas mais contundentes até agora sobre a necessidade de criar regras para os sistemas mais poderosos.
O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, pediu que governos e empresas desenvolvedoras de inteligência artificial adotem medidas urgentes para reduzir riscos relacionados aos modelos de fronteira.
Em carta enviada aos Estados e às principais companhias do setor, Türk afirmou que a humanidade se aproxima de uma transformação que poderá produzir consequências duradouras para as próximas gerações.
O representante da ONU cita preocupações relacionadas à segurança, serviços essenciais, instituições democráticas, conflitos armados, privacidade e outros direitos fundamentais.
O posicionamento surge justamente quando executivos de algumas das maiores empresas de inteligência artificial também defendem que mecanismos de segurança precisam acompanhar mais de perto o avanço das capacidades dos novos sistemas.
Leia mais:
Starlink coloca antena à venda por R$ 99 no Brasil; veja a oferta
Por que a ONU fez um alerta sobre a inteligência artificial?
A principal preocupação apresentada por Volker Türk é a distância entre a velocidade do desenvolvimento tecnológico e a capacidade dos governos e instituições de criar mecanismos de proteção.
Segundo o alto comissário, sistemas de inteligência artificial cada vez mais autônomos podem trazer benefícios importantes, mas também criar riscos difíceis de controlar caso sejam utilizados de maneira inadequada ou apresentem falhas.
Entre os cenários mencionados pela ONU estão problemas capazes de afetar serviços essenciais, comunicações e infraestruturas críticas.
Türk também chama atenção para possíveis impactos sobre instituições democráticas.
O alerta não significa que esses cenários inevitavelmente acontecerão.
A posição da ONU é de que a gravidade potencial dos danos exige medidas preventivas antes que sistemas ainda mais avançados sejam amplamente implantados.
“Mudança irreversível” preocupa a ONU
Ao apresentar o documento, Türk afirmou que o mundo está próximo de uma mudança capaz de afetar não apenas as pessoas que vivem atualmente, mas também futuras gerações.
O argumento central é que decisões tomadas agora sobre desenvolvimento, implantação e controle da inteligência artificial podem influenciar como a tecnologia será utilizada durante décadas.
Segundo ele, deixar essas decisões concentradas exclusivamente nas empresas que desenvolvem os modelos não seria suficiente.
A ONU defende maior participação de governos, organismos internacionais, sociedade civil e outros setores na definição das regras.
Quais direitos humanos podem ser afetados pela IA?
O alto comissário afirmou que diferentes direitos fundamentais podem ser atingidos pelos efeitos da inteligência artificial.
Entre as preocupações estão questões relacionadas ao direito à vida, à privacidade, à igualdade e à liberdade.
Uma tecnologia utilizada para tomar decisões sobre pessoas, por exemplo, pode reproduzir discriminações presentes nos dados empregados para seu treinamento.
Sistemas usados para vigilância também podem afetar a privacidade.
Já aplicações militares ou relacionadas à infraestrutura crítica envolvem riscos mais graves caso apresentem falhas ou sejam utilizadas deliberadamente para causar danos.
Türk resumiu a dimensão de sua preocupação ao afirmar que “todos os direitos humanos estão ameaçados” pelos possíveis efeitos dos sistemas mais avançados.
Sistemas autônomos estão no centro da preocupação
Uma parte importante do debate atual envolve os chamados agentes de inteligência artificial.
Diferentemente de um chatbot tradicional, que normalmente responde a uma solicitação específica, agentes podem executar sequências de tarefas de maneira mais autônoma.
Eles podem navegar por sistemas, utilizar ferramentas, escrever códigos, consultar informações e tomar decisões intermediárias para concluir determinado objetivo.
Quanto mais autonomia esses sistemas recebem, maior também pode ser a consequência de uma instrução incorreta, comportamento inesperado ou ataque realizado por um usuário mal-intencionado.
Türk mencionou justamente a possibilidade de falhas envolvendo agentes afetarem serviços essenciais ou infraestruturas críticas.
ONU teme concentração de decisões em poucas empresas
Outro ponto do documento é a concentração do desenvolvimento de sistemas avançados em um pequeno grupo de empresas.
Grande parte dos modelos mais sofisticados atualmente é desenvolvida por companhias localizadas principalmente nos Estados Unidos e na China.
Isso significa que decisões capazes de influenciar bilhões de pessoas podem depender, em grande medida, das políticas internas de poucas organizações privadas.
Para o alto comissário, essas empresas possuem capacidade e responsabilidade para adotar medidas imediatas de redução de riscos.
Ao mesmo tempo, ele defende que o controle não deve depender exclusivamente da iniciativa voluntária dessas companhias.
A proposta é construir mecanismos multilaterais baseados também no direito internacional dos direitos humanos.
Executivos de IA também passaram a pedir desaceleração
O alerta da ONU ocorre em um momento incomum para o setor de tecnologia.
Dario Amodei, CEO da Anthropic, publicou uma proposta defendendo a redução do ritmo de avanço das capacidades dos modelos mais poderosos para permitir que pesquisas e sistemas de segurança acompanhem o desenvolvimento.
Amodei argumenta que os próximos modelos poderão adquirir capacidades significativamente superiores às atuais e que medidas preventivas precisam ser implementadas antes disso.
Sua posição recebeu apoio público de dirigentes de outras empresas do setor.
Sam Altman, CEO da OpenAI, também defendeu que o progresso continue, mas em ritmo compatível com cuidados adicionais de segurança.
Elon Musk e representantes ligados ao Google também manifestaram apoio à discussão sobre mecanismos para controlar a velocidade da corrida tecnológica.
O que significa desacelerar o desenvolvimento da IA?
Uma desaceleração não significa necessariamente desligar sistemas existentes ou suspender todos os projetos de inteligência artificial.
Uma das propostas discutidas é estabelecer limites para o ritmo de aumento das capacidades dos modelos mais avançados.
Esse tempo adicional poderia ser utilizado para realizar testes independentes, melhorar mecanismos de segurança e desenvolver formas de intervenção caso determinado sistema apresente comportamento perigoso.
Outra possibilidade é criar padrões comuns entre diferentes empresas.
Isso poderia reduzir a pressão para que uma companhia lance rapidamente um sistema apenas porque acredita que um concorrente fará o mesmo.
Esse problema é conhecido como corrida tecnológica.
Quando várias empresas competem para chegar primeiro a determinado nível de capacidade, medidas de segurança podem acabar sendo vistas como uma desvantagem competitiva.
Empresas discutem organismo para padrões de segurança
Além das declarações públicas, empresas como Anthropic, OpenAI e Google discutiram a possibilidade de criar uma estrutura voltada ao estabelecimento de padrões de segurança para modelos de fronteira.
A iniciativa poderia funcionar como uma tentativa de criar regras comuns dentro do próprio setor.
Entretanto, ainda existe debate sobre até que ponto mecanismos voluntários seriam suficientes.
Defensores da regulamentação argumentam que regras obrigatórias são necessárias para garantir que todas as empresas cumpram requisitos mínimos.
Críticos de uma regulamentação mais ampla temem que exigências excessivas reduzam a inovação, aumentem os custos e beneficiem empresas maiores que já possuem recursos para atender às novas obrigações.
Trump rejeitou pedidos de maior freio à IA
Nos Estados Unidos, a discussão também entrou no campo político.
O presidente Donald Trump manifestou oposição aos pedidos de desaceleração e de aumento significativo da regulamentação federal.
Em publicações feitas em 14 de setembro, Trump argumentou que os Estados Unidos já possuem instrumentos jurídicos para agir contra empresas caso ocorram práticas ilegais.
Ele também afirmou que diminuir o ritmo de desenvolvimento poderia favorecer a China na competição internacional por liderança em inteligência artificial.
A posição contrasta com os pedidos de maior cautela feitos por executivos e com a proposta de governança apresentada pela ONU.
O debate envolve, portanto, duas preocupações diferentes: de um lado, reduzir potenciais riscos da tecnologia; de outro, evitar que limitações internas prejudiquem a competitividade de um país diante de seus rivais.
China também vê riscos de segurança
A preocupação não está restrita aos Estados Unidos ou às Nações Unidas.
Autoridades chinesas também vêm discutindo riscos relacionados ao uso de inteligência artificial contra a segurança nacional.
O Ministério da Segurança do Estado da China alertou que sistemas desse tipo podem ser utilizados por agentes estrangeiros para ataques, manipulação ou tentativas de desestabilização.
Ao mesmo tempo, setores ligados ao país demonstraram resistência a propostas que poderiam limitar seu desenvolvimento tecnológico ou estabelecer regras consideradas favoráveis às empresas norte-americanas.
Essa combinação mostra uma das maiores dificuldades para criar uma governança global: os países reconhecem diferentes riscos, mas também competem economicamente e estrategicamente pelo domínio da tecnologia.
Por que Estados Unidos e China são tão importantes nessa discussão?
Grande parte dos modelos mais avançados está sendo construída por empresas desses dois países.
Além disso, Estados Unidos e China possuem grandes mercados, infraestrutura tecnológica, centros de pesquisa e investimentos bilionários em inteligência artificial.
Uma eventual regra internacional teria alcance limitado se as maiores potências tecnológicas não participassem.
Ao mesmo tempo, qualquer acordo precisa lidar com interesses econômicos e de segurança nacional.
Um país pode temer que desacelerar seus próprios laboratórios permita que o concorrente obtenha vantagem tecnológica.
Esse dilema é uma das principais dificuldades enfrentadas por propostas de cooperação internacional na área.
Riscos atuais são diferentes dos riscos futuros
O debate sobre inteligência artificial reúne problemas que já podem ser observados e cenários que ainda são hipotéticos.
Entre os riscos presentes estão desinformação, fraudes, produção de conteúdo falso, ataques cibernéticos, discriminação algorítmica e invasões de privacidade.
Também há preocupação crescente com o uso da tecnologia para acelerar atividades ilícitas.
Já cenários nos quais sistemas extremamente avançados escapariam completamente do controle humano permanecem objeto de discussão e pesquisa.
Não existe consenso entre pesquisadores sobre a probabilidade de esses cenários ocorrerem.
O argumento dos defensores de medidas preventivas é que, mesmo quando a probabilidade é incerta, impactos potencialmente muito grandes justificam preparação antecipada.
Regulação precisa equilibrar risco e inovação
O desafio enfrentado por governos é criar regras sem bloquear usos positivos da tecnologia.
A inteligência artificial já é empregada em áreas como saúde, educação, ciência, programação e produtividade empresarial.
Sistemas futuros podem ampliar ainda mais essas aplicações.
Uma regulamentação muito restritiva poderia dificultar pesquisas e impedir que empresas menores desenvolvam novos produtos.
Por outro lado, regras insuficientes podem permitir que ferramentas poderosas sejam lançadas sem testes adequados.
É justamente esse equilíbrio que está no centro das discussões internacionais.
O que a ONU está propondo?
Türk pediu que países e empresas utilizem fóruns multilaterais para construir uma estrutura capaz de acompanhar o desenvolvimento dos modelos avançados.
A ideia é que direitos humanos sejam considerados desde o desenvolvimento da tecnologia, e não apenas depois que problemas já tenham acontecido.
Entre os princípios defendidos pela ONU estão maior responsabilidade das empresas, transparência e mecanismos capazes de reduzir riscos antes da implantação de sistemas potencialmente perigosos.
Não se trata, portanto, de uma determinação para interromper imediatamente a inteligência artificial.
É um pedido para que regras, fiscalização e instrumentos de segurança avancem em velocidade semelhante à própria tecnologia.
Debate sobre IA entrou em uma nova fase
Durante os primeiros anos da expansão da inteligência artificial generativa, boa parte da discussão pública esteve concentrada nas oportunidades oferecidas pela tecnologia.
Agora, segurança e governança ocupam espaço crescente.
O fato de líderes de empresas concorrentes defenderem algum tipo de desaceleração mostra uma mudança importante na discussão.
Ao mesmo tempo, governos não concordam sobre qual deve ser a resposta.
Enquanto a ONU pressiona por uma coordenação internacional baseada em direitos humanos e alguns executivos defendem mais tempo para desenvolver salvaguardas, outras autoridades argumentam que um freio pode prejudicar inovação e competitividade.
Não existe atualmente consenso internacional sobre como resolver essa disputa.
O ponto em comum é que a inteligência artificial deixou de ser tratada apenas como uma ferramenta tecnológica.
Seu avanço passou a ser discutido também como questão de segurança, economia, direitos humanos e equilíbrio de poder entre países — e as decisões tomadas nos próximos anos poderão definir como sistemas cada vez mais capazes serão incorporados à sociedade.