A corrida pelo desenvolvimento da inteligência artificial ganhou uma nova dimensão nesta semana. A OpenAI afirmou que os Estados Unidos precisam manter uma posição de liderança na área para participar da definição das regras que vão moldar o futuro da tecnologia em escala global.
Em uma publicação divulgada nesta segunda-feira, a empresa argumentou que as decisões tomadas agora poderão influenciar a estrutura internacional da inteligência artificial e as relações entre os países nos próximos anos.
A discussão ocorre em meio ao debate sobre os riscos associados ao avanço de sistemas cada vez mais capazes e sobre a necessidade de estabelecer mecanismos de segurança antes que novas tecnologias sejam amplamente implementadas.
Ao mesmo tempo, o CEO da OpenAI, Sam Altman, está previsto para participar nesta quarta-feira de uma reunião do Conselho de Segurança das Nações Unidas dedicada à inteligência artificial e à segurança internacional.
Leia mais:
Ações da Meta saltam mais de 11% com repercussão positiva do agente de IA Muse
OpenAI defende liderança dos Estados Unidos
Na publicação, a OpenAI afirma que a liderança americana terá influência sobre a forma como a estrutura global de inteligência artificial será construída.
A empresa argumenta que uma ausência dos Estados Unidos poderia contribuir para a formação de um sistema internacional fragmentado, com diferentes padrões tecnológicos e regulatórios entre os países.
A OpenAI também relaciona a liderança em inteligência artificial às alianças já mantidas pelos Estados Unidos. Segundo a empresa, o desenvolvimento da tecnologia poderá fortalecer essas redes de cooperação, enquanto a ausência de liderança poderia enfraquecê-las.
O posicionamento ocorre em um momento em que governos de diferentes países discutem como estabelecer regras comuns para uma tecnologia que ultrapassa fronteiras e pode afetar áreas como economia, segurança cibernética, defesa e comunicação.
A própria OpenAI vem defendendo maior coordenação internacional e padrões de segurança compartilhados para o desenvolvimento da inteligência artificial.
Debate sobre desacelerar o desenvolvimento da IA
Uma das principais discussões dentro do setor tecnológico envolve o ritmo de evolução dos sistemas de inteligência artificial.
Pesquisadores e executivos têm debatido a possibilidade de reduzir ou controlar temporariamente a velocidade de desenvolvimento caso os mecanismos de segurança não consigam acompanhar o avanço das capacidades dos modelos.
A discussão não significa necessariamente interromper a pesquisa em inteligência artificial. O ponto central é determinar se novos sistemas devem ser desenvolvidos e disponibilizados somente quando os mecanismos de segurança estiverem suficientemente preparados.
A OpenAI apresentou uma posição semelhante ao afirmar que controlar o ritmo não significa adotar uma velocidade fixa para o desenvolvimento.
Segundo a empresa, o objetivo deveria ser garantir que a pesquisa voltada ao alinhamento e a implementação dessas medidas de segurança permaneçam à frente da evolução das capacidades dos sistemas.
O que significa o alinhamento da inteligência artificial
O conceito de alinhamento ocupa papel importante nesse debate.
De maneira simplificada, alinhamento é o conjunto de técnicas e métodos destinados a fazer com que sistemas de inteligência artificial sigam objetivos e restrições compatíveis com as intenções humanas.
Na prática, isso envolve tentar reduzir comportamentos indesejados, impedir determinados tipos de uso e aumentar a capacidade de os sistemas seguirem instruções de maneira previsível.
O tema se torna mais complexo à medida que os modelos passam a executar tarefas mais sofisticadas e a operar com maior autonomia.
Por isso, uma das preocupações discutidas atualmente é se os mecanismos de controle conseguirão evoluir na mesma velocidade que as capacidades dos sistemas mais avançados.
Sam Altman falará ao Conselho de Segurança da ONU
O debate ganhará uma dimensão diplomática nesta quarta-feira, 23 de setembro.
Sam Altman deverá participar presencialmente de uma reunião aberta do Conselho de Segurança da ONU para discutir inteligência artificial e segurança internacional. A reunião foi convocada pela França, que ocupa a presidência do órgão durante setembro, e será conduzida pelo ministro francês para a Europa e os Negócios Estrangeiros, Jean-Noël Barrot.
O Conselho de Segurança é formado por 15 países e tem como principal responsabilidade a manutenção da paz e da segurança internacionais.
Segundo informações divulgadas por meio da Reuters, a participação de Altman deverá abordar a necessidade de coordenação internacional, padrões comuns de segurança e as medidas adotadas pela OpenAI para ampliar os benefícios da inteligência artificial.
A reunião ocorre durante a semana de alto nível da Assembleia Geral da ONU, quando líderes e representantes de diversos países estão reunidos em Nova York.
França quer discutir riscos à segurança internacional
A França apresentou aos integrantes do Conselho de Segurança uma nota conceitual sobre o encontro.
O documento destaca preocupações relacionadas ao uso malicioso da inteligência artificial e defende ações para promover um desenvolvimento seguro e responsável da tecnologia.
Entre os pontos que devem ser discutidos estão os riscos relacionados à perda de controle sobre sistemas avançados e à utilização de novos modelos para desenvolver, facilitar ou executar atividades que possam afetar a paz e a segurança internacionais.
A preocupação, portanto, não está limitada aos efeitos da IA sobre empregos ou produtividade. O debate internacional também envolve possíveis impactos sobre segurança, conflitos, cibersegurança e estabilidade entre países.
Conselho de Segurança já discutiu inteligência artificial
Esta não será a primeira vez que o Conselho de Segurança da ONU debate os riscos associados à inteligência artificial.
O órgão realizou sua primeira reunião específica sobre o tema em 2023.
Na ocasião, a China alertou para o risco de a tecnologia se tornar algo fora de controle, enquanto os Estados Unidos chamaram atenção para a possibilidade de utilização da inteligência artificial para censura ou repressão.
Três anos depois, a discussão ganhou uma dimensão ainda maior devido ao avanço dos chamados modelos de fronteira, sistemas capazes de realizar tarefas cada vez mais complexas.
O encontro desta semana também acontece em meio a pedidos de maior coordenação internacional para estabelecer padrões de segurança que possam ser aplicados além das fronteiras de cada país.
Por que os Estados Unidos querem manter a liderança
A disputa pela liderança em inteligência artificial envolve mais do que o desenvolvimento de aplicativos e chatbots.
O país que concentra empresas, pesquisadores, infraestrutura de computação e investimentos em IA também pode exercer influência sobre os padrões técnicos e regulatórios adotados internacionalmente.
A OpenAI argumenta que a liderança americana pode fortalecer as alianças existentes e ajudar a estabelecer uma estrutura internacional para a tecnologia.
A empresa também está diretamente envolvida na expansão da infraestrutura necessária para treinar e operar modelos avançados. O projeto Stargate, por exemplo, foi criado para ampliar significativamente a capacidade de computação dedicada à inteligência artificial nos Estados Unidos. A OpenAI anunciou investimentos e novos centros de dados em parceria com empresas como Oracle e SoftBank.
Esse aspecto ajuda a explicar por que a discussão sobre liderança tecnológica está ligada também a infraestrutura, energia, semicondutores e capacidade computacional.
Uma disputa que vai além das empresas de tecnologia
A definição do futuro da inteligência artificial não depende apenas de empresas como OpenAI, Google, Microsoft, Anthropic e outras companhias do setor.
Governos também participam da disputa por meio de investimentos, regulamentações e políticas industriais.
Ao mesmo tempo, organismos internacionais tentam discutir padrões que possam ser utilizados por diferentes países.
Esse cenário cria um desafio de coordenação. Se cada país adotar regras completamente diferentes, empresas que desenvolvem ou utilizam inteligência artificial poderão precisar seguir conjuntos distintos de exigências.
Por outro lado, padrões internacionais muito rígidos ou estabelecidos antes de uma compreensão suficiente da tecnologia também podem afetar pesquisa e inovação.
É justamente nesse equilíbrio que se concentra parte do debate atual.
Segurança passa a acompanhar o avanço das capacidades
A discussão sobre ritmo de desenvolvimento está diretamente ligada à evolução dos modelos de IA.
Sistemas atuais já conseguem produzir textos, imagens, códigos, análises e outros conteúdos em poucos segundos. Também podem ser integrados a ferramentas capazes de executar tarefas de maneira mais autônoma.
Com capacidades maiores, aumentam também as possibilidades de uso da tecnologia.
A reunião do Conselho de Segurança da ONU ocorre justamente nesse contexto. A França pretende discutir tanto os benefícios quanto os riscos relacionados aos sistemas mais avançados e seu possível impacto sobre a segurança internacional.
Para a OpenAI, o desafio é fazer com que mecanismos de segurança e alinhamento avancem antes das capacidades dos modelos.
A discussão que chega à ONU, portanto, não é apenas sobre se a inteligência artificial deve continuar avançando. O ponto central é como garantir que o desenvolvimento ocorra de maneira coordenada, com padrões de segurança e mecanismos capazes de acompanhar a evolução da tecnologia.
O que pode sair do debate internacional
A reunião do Conselho de Segurança não significa, por si só, que haverá uma regra global obrigatória para a inteligência artificial.
O encontro funciona como espaço de discussão entre os integrantes do órgão e outros participantes convidados.
Ainda assim, a presença de um dos principais executivos da indústria de IA mostra a dimensão que o assunto ganhou na agenda internacional.
A expectativa é que o encontro coloque em discussão temas como padrões comuns de segurança, coordenação entre países, riscos de uso malicioso e possíveis consequências de sistemas que se tornem cada vez mais autônomos.
A participação de Sam Altman também coloca a indústria diretamente diante de representantes dos governos que terão de decidir como lidar com uma tecnologia que avança rapidamente.
O debate sobre quem liderará a inteligência artificial e quais limites deverão acompanhar esse desenvolvimento está, portanto, deixando de ser exclusivamente tecnológico. Ele passou a envolver também relações internacionais, segurança e formulação de políticas públicas.