Estratégia do Brasil para inteligência artificial falha ao ignorar conceito básico

Com avanços significativos em relação à proposta anterior, o documento traz detalhes estratégicos para o desenvolvimento de tecnologias de IA no país, incluindo um foco inédito na criação de Grandes Modelos de Língua (LLMs) específicos para o português brasileiro.

Leia mais:

Inteligência artificial transforma operações internas dos bancos

O que diz o PBIA sobre LLMs e a língua portuguesa?

O terceiro dos quatro grandes objetivos do PBIA é claro ao estabelecer como meta o desenvolvimento de LLMs baseados em dados nacionais, com atenção especial à língua portuguesa.

LLMs: de “linguagem” para “língua”

O plano cita o termo “modelos de linguagem de grande escala”, uma tradução literal do inglês Large Language Models. No entanto, especialistas em linguística alertam: o termo mais correto seria “modelos de língua”, já que o foco é o desenvolvimento de IAs que compreendam e processem o português brasileiro.

A diferença entre linguagem e língua: por que isso importa?

A distinção entre linguagem e língua vai muito além de uma questão terminológica. A linguagem é uma capacidade cognitiva universal do ser humano, enquanto a língua é uma construção social e histórica, resultado das práticas culturais de uma comunidade.

Impacto na construção de LLMs

Ao entender que o desafio é criar um modelo para a língua portuguesa, fica claro que o processo de curadoria de dados deve levar em conta as especificidades culturais, históricas e sociais do Brasil. Ignorar essa distinção pode levar à importação de preconceitos e vieses de outras culturas.

Curadoria de dados: um desafio estratégico para a IA brasileira

O PBIA prevê o investimento em curadoria de bases de dados nacionais. Mas o plano ainda não detalha claramente como será feita essa curadoria nem quais critérios serão adotados.

O que é curadoria de dados em IA?

Curadoria de dados vai além da coleta de textos. Ela envolve:

• Seleção responsável de conteúdos
• Respeito aos direitos autorais
• Filtragem de informações ofensivas ou discriminatórias
• Anotação e categorização de dados com metadados relevantes

O risco da dependência de dados estrangeiros

Sem uma curadoria criteriosa, existe o risco de que modelos brasileiros sejam treinados com dados de outras línguas ou culturas, carregando preconceitos externos para a realidade brasileira.

Preconceitos nos LLMs: o alerta da comunidade científica

Pesquisas recentes apontam que LLMs multilíngues tendem a reproduzir não apenas os preconceitos presentes na sua língua de origem, mas também os vieses culturais de outras regiões.

O exemplo do SHADES

O SHADES, um dataset construído por um consórcio internacional de pesquisadores, avalia como os LLMs propagam preconceitos de raça, gênero, classe social, nacionalidade e idade em 16 línguas, incluindo o português brasileiro.

Limitações culturais em modelos multimodais

Outro estudo, o CVQA, testou a capacidade de LLMs multimodais de responder perguntas sobre imagens com forte carga cultural. Exemplos brasileiros incluíram:

• Perguntas sobre a forma tradicional de comer paçoca de rolha
• Crenças populares sobre deixar um chinelo virado no chão

Os resultados mostraram que muitos modelos não compreendem essas referências, evidenciando a importância de dados culturalmente ancorados.

A importância da participação de linguistas na construção de LLMs

Especialistas alertam que o sucesso de um LLM em português depende diretamente da participação de profissionais capacitados em linguística.

Por que incluir linguistas?

Os linguistas possuem o conhecimento necessário para:

• Mapear variações regionais do português brasileiro
• Analisar ambiguidades linguísticas
• Garantir representatividade de diferentes registros de linguagem
• Reduzir vieses de gênero, raça e classe nos dados

Como o PBIA trata a dependência externa?

O PBIA reconhece a necessidade de reduzir a dependência externa em relação ao desenvolvimento de LLMs. No entanto, ainda faltam detalhes sobre quais políticas serão adotadas para alcançar essa soberania tecnológica.

Transferência de aprendizado: solução ou armadilha?

Uma solução comum no mercado de IA é utilizar transfer learning, técnica que transfere conhecimentos de um modelo treinado em uma língua para outra. Especialistas, porém, alertam que isso pode reforçar vieses estrangeiros, prejudicando a adequação cultural dos modelos.

Responsabilidade, diversidade e transparência: os próximos desafios

O PBIA está no caminho certo ao incluir a criação de LLMs em português como um dos pilares para a soberania digital do Brasil. Contudo, há desafios críticos que precisam ser enfrentados.

Definição de critérios claros de curadoria

O governo precisará estabelecer:

• Parâmetros de qualidade para os dados
• Procedimentos para validação ética
• Mecanismos para consulta pública e participação social

Financiamento e infraestrutura

A construção de LLMs de qualidade exige:

• Investimento em infraestrutura computacional
• Apoio a projetos de pesquisa em linguística computacional
• Parcerias com universidades e centros de pesquisa

Políticas de governança e auditoria

Para garantir uma IA ética e representativa, será necessário criar órgãos de controle que monitorem:

• Transparência dos datasets
• Métodos de treinamento
• Resultados e impactos sociais dos modelos

Considerações finais

A publicação da versão final do Plano Brasileiro de Inteligência Artificial marca um avanço importante na estratégia tecnológica nacional. O destaque dado aos LLMs em português brasileiro é um passo essencial para garantir a soberania digital do país.

No entanto, o sucesso dessa iniciativa depende de escolhas conscientes e inclusivas, que envolvam especialistas em linguística, tecnologia e direitos digitais.

A responsabilidade agora está nas mãos do governo e das instituições de pesquisa: transformar as boas intenções do plano em ações concretas que respeitem a diversidade cultural e linguística do Brasil.