Nova York dá passo histórico e aprova lei para evitar riscos da IA

A medida surge em um momento de crescente preocupação internacional com os efeitos colaterais da inteligência artificial de uso geral. O foco está nos riscos de segurança, como uso da tecnologia em crimes cibernéticos, criação de armas biológicas e perda de controle por parte dos humanos. Com isso, o estado americano sinaliza uma postura pioneira e proativa diante de desafios cada vez mais complexos.

LEIA MAIS:

• Bancos admitem: inteligência artificial não é mais opcional
• Meta investe em laboratório inovador para avançar na superinteligência artificial
• Nova aposta do MEC: Inteligência artificial para ajudar alunos a passar no Enem

Nova York e inteligência artificial: O que é o RAISE Act?

O projeto RAISE (Responsible AI Safety and Education) foi aprovado pelo Senado estadual de Nova York no início de junho de 2025. Trata-se de um conjunto de normas voltadas à prevenção de riscos extremos relacionados ao uso de inteligência artificial em larga escala.

Quem será afetado?

A lei se aplica apenas a empresas que tenham investido mais de US$ 100 milhões em recursos computacionais para treinar modelos de IA. Ou seja, o foco está nas grandes desenvolvedoras e laboratórios de tecnologia que operam em escala global.

Objetivos principais

• Prevenir abusos com o uso de IA para fins perigosos, como o desenvolvimento de armas biológicas ou ciberataques;
  
• Exigir protocolos de segurança documentados e públicos;
  
• Estabelecer prazos para o reporte de incidentes, como vazamentos ou roubos de modelos perigosos;
  
• Aplicar penalidades civis a empresas que descumprirem os requisitos legais.
  

Principais pontos do texto legal

Publicação de protocolos de segurança

O RAISE Act determina que as companhias de IA mais poderosas divulguem ao público seus planos de segurança e análises de risco. Esses documentos devem contemplar ameaças severas à sociedade, incluindo:

• Possibilidade de uso da IA em crimes automatizados;
  
• Risco de desenvolvimento de armamentos autônomos ou sistemas de destruição em massa;
  
• Incidentes relacionados ao comportamento imprevisível ou malicioso dos modelos.
  

Comunicação obrigatória de incidentes

As empresas terão prazo máximo de 72 horas para notificar as autoridades do estado em caso de incidentes graves. Isso inclui:

• Roubo ou vazamento de modelos considerados perigosos;
  
• Comportamento inesperado da IA com risco direto à sociedade;
  
• Tentativas de uso da tecnologia por agentes mal-intencionados.
  

Aplicação de penalidades

O projeto autoriza o procurador-geral do estado de Nova York a aplicar sanções civis contra as empresas que descumprirem as obrigações legais. Essas penalidades podem incluir multas, restrições operacionais e obrigações de reparação pública.

Quem está por trás da proposta?

A proposta foi redigida por dois legisladores democratas: o senador estadual Andrew Gounardes e o deputado Alex Bores. Ambos são defensores ativos de medidas que aliem inovação à responsabilidade.

Segundo Gounardes, “o projeto é uma forma razoável e sensata de garantir que o desenvolvimento da IA não seja guiado apenas por interesses comerciais”. Ele reforça que a segurança pública precisa estar acima dos lucros e que os riscos potenciais devem ser enfrentados de forma preventiva.

A base do projeto: ciência e precaução

O texto legal foi inspirado pelo Relatório Internacional de Segurança da IA, um documento elaborado por especialistas que alerta sobre os impactos de sistemas avançados de inteligência artificial. Entre os riscos destacados estão:

• Desemprego em massa devido à automação total de setores;
  
• Falhas em sistemas críticos, como redes elétricas e hospitais;
  
• Criação de ferramentas de ataque digital automatizado;
  
• Perda de controle sobre IA de uso geral por parte dos humanos.
  

Críticas à iniciativa

Embora elogiada por defensores da regulamentação, a proposta também recebeu críticas de representantes da indústria e especialistas em políticas públicas.

Preocupações com startups e pesquisa

O projeto tem semelhanças com a proposta de lei SB 1047 da Califórnia, que acabou sendo vetada sob o argumento de que poderia sufocar a inovação e prejudicar pesquisadores independentes. A preocupação é que regras excessivamente rígidas possam tornar mais difícil o trabalho de laboratórios menores e centros de pesquisa.

Falta de clareza e burocracia

Jack Clark, cofundador da Anthropic, laboratório que atua no desenvolvimento responsável de IA, questionou a definição ampla do que constitui um “incidente de segurança”. Para ele, o prazo de 72 horas para relatar esses eventos pode causar uma enxurrada de notificações desnecessárias.

“Propostas estaduais devem se concentrar na transparência, e não em medidas excessivamente prescritivas”, afirmou Clark, que defende uma legislação federal unificada para o tema.

Impacto potencial da nova lei

Caso seja sancionada, a nova legislação tornará Nova York o primeiro estado americano a adotar um conjunto robusto de regras para empresas que operam com IA avançada. Isso pode:

• Influenciar legislações federais ou de outros estados;
  
• Criar novos padrões de segurança para o setor de tecnologia;
  
• Pressionar grandes empresas a adotar medidas similares globalmente;
  
• Estimular uma abordagem mais ética e preventiva em todo o ecossistema de inovação.
  

Uma lei estadual com ambição global

Mesmo sendo uma legislação estadual, o RAISE Act possui o potencial de gerar efeitos internacionais. Dado o alcance global das empresas de IA, medidas tomadas em Nova York podem ser replicadas por reguladores em outras regiões, como União Europeia, Reino Unido ou Canadá.

Além disso, a lei amplia o debate sobre os limites éticos da inteligência artificial e obriga a indústria a repensar o papel da segurança no ciclo de desenvolvimento tecnológico.

O que vem a seguir?

Agora, o projeto aguarda a assinatura da governadora Kathy Hochul, que ainda não se manifestou oficialmente. O ambiente político em Nova York, no entanto, é favorável à regulamentação responsável da tecnologia, o que aumenta as chances de aprovação.

Caso sancionado, o RAISE Act entrará em vigor nos meses seguintes, com prazos graduais para que as empresas se adaptem às novas exigências legais.

Uma nova era de responsabilidade tecnológica

O avanço da inteligência artificial exige mais do que celebração tecnológica: demanda responsabilidade, transparência e segurança. A proposta do estado de Nova York, ao exigir planos concretos para mitigar riscos e incidentes, coloca um novo padrão de regulação na mesa.

Se adotada, a medida pode representar o início de uma era em que a ética da inovação caminha lado a lado com o progresso. Enquanto o mundo observa, Nova York envia um recado claro: o futuro da IA precisa ser construído com base em confiança e precaução.