Novo sistema da Meta AI identifica conversas sensíveis de adolescentes no Instagram

A novidade amplia os mecanismos de proteção já existentes na plataforma e faz parte da estratégia da empresa para tornar o uso de inteligência artificial mais seguro entre menores de idade. Inicialmente, o recurso chega aos Estados Unidos, Canadá, Reino Unido e Austrália, com previsão de expansão para outros países até o fim do ano.

Além dos alertas, a Meta também anunciou uma configuração mais rígida para limitar os temas que podem ser abordados pelo chatbot quando utilizado por adolescentes.

Leia mais:

Banco do Brasil encerra cartão de crédito e explica como ficam as faturas pendentes

Como funcionará o alerta aos pais

O novo sistema monitora conversas realizadas entre adolescentes e a Meta AI dentro do Instagram. Quando a inteligência artificial identifica mensagens que possam indicar pensamentos relacionados a suicídio ou automutilação, um processo interno é iniciado.

Antes que qualquer responsável seja comunicado, as conversas sinalizadas passam por uma revisão humana. O objetivo é reduzir erros na identificação de situações de risco.

Segundo a Meta, mesmo quando a intenção do usuário não estiver completamente clara, a empresa poderá optar por enviar o alerta como medida preventiva.

Em comunicado oficial, a companhia afirmou que prefere agir com cautela diante de possíveis situações envolvendo a saúde mental de adolescentes, ainda que algumas notificações sejam enviadas em casos que posteriormente não representem um risco real.

Quem receberá as notificações

Os alertas serão enviados apenas para responsáveis que participam da supervisão parental do Instagram.

Dependendo da configuração escolhida, a comunicação poderá ocorrer por diferentes canais, como:

• e-mail;
• WhatsApp;
• mensagem de texto (SMS);
• notificações no próprio aplicativo.

A ferramenta faz parte do conjunto de recursos de supervisão já disponível na plataforma, permitindo que pais acompanhem algumas atividades digitais dos adolescentes sem acesso ao conteúdo completo das conversas.

O que acontece quando a IA identifica uma conversa preocupante

Mesmo antes dessa atualização, a Meta AI já adotava algumas medidas quando detectava sinais relacionados a crises emocionais.

Entre elas estão:

• incentivar o adolescente a procurar um adulto de confiança;
• sugerir contato com familiares;
• indicar serviços especializados e linhas de apoio em situações de crise.

Agora, além dessas orientações ao próprio usuário, a empresa adiciona uma camada extra de proteção ao envolver os responsáveis cadastrados na supervisão parental.

Segundo a Meta, a decisão foi tomada após consultas com especialistas em saúde mental e famílias.

A empresa afirma que desenvolveu modelos específicos de inteligência artificial para identificar referências, inclusive sutis, que possam indicar intenção de causar dano a si mesmo.

Meta amplia restrições para adolescentes com “Conteúdo Limitado”

Outra novidade anunciada é a expansão da configuração chamada Conteúdo Limitado para a Meta AI.

Antes disponível apenas em algumas experiências dentro do Instagram, a função passa a controlar também as respostas oferecidas pelo chatbot.

Quando ativada pelos pais na supervisão parental, a ferramenta torna a inteligência artificial significativamente mais restritiva.

Na prática, a Meta AI passa a recusar respostas sobre um número maior de temas considerados inadequados para adolescentes.

O objetivo é reduzir a exposição dos menores a conteúdos potencialmente sensíveis ou incompatíveis com sua faixa etária.

Quais assuntos já possuem restrições

A Meta informa que seu chatbot já foi treinado para evitar determinados tipos de interação com adolescentes.

Entre as limitações estão:

• conversas de natureza sexual;
• interações com conteúdo romântico inadequado;
• orientações relacionadas ao consumo de bebidas alcoólicas.

Com o novo modo de Conteúdo Limitado, essas restrições passam a abranger uma quantidade ainda maior de assuntos considerados sensíveis.

Especialistas participaram do desenvolvimento

De acordo com a empresa, o desenvolvimento dos novos recursos contou com a colaboração de mais de 75 especialistas em saúde mental.

A participação desses profissionais teve como objetivo definir quais tipos de conversa justificariam um alerta aos responsáveis e aperfeiçoar os critérios utilizados pelos sistemas de inteligência artificial.

Segundo a Meta, esse trabalho busca equilibrar dois desafios: identificar situações de risco sem comprometer desnecessariamente a privacidade dos adolescentes.

Por que a Meta está reforçando a proteção para menores

O anúncio ocorre em meio ao aumento da pressão sobre empresas de tecnologia para ampliar mecanismos de proteção destinados a crianças e adolescentes.

Nos últimos anos, autoridades, pesquisadores e organizações ligadas à saúde mental têm cobrado das plataformas digitais medidas capazes de reduzir riscos relacionados ao uso intenso das redes sociais e de sistemas de inteligência artificial.

Ao incorporar novos mecanismos de supervisão, a Meta busca responder a essas preocupações e fortalecer os recursos de segurança já existentes no Instagram.

O que muda na prática para famílias

Para adolescentes, a principal mudança é a ampliação das salvaguardas durante o uso da Meta AI.

Já para os pais, o recurso oferece uma possibilidade adicional de identificar situações potencialmente graves sem precisar monitorar diretamente todas as conversas realizadas pelos filhos.

Como a funcionalidade depende da supervisão parental, responsáveis interessados deverão manter esse recurso ativado para receber notificações quando houver detecção de interações consideradas de risco.

Quando o recurso estará disponível

Nesta primeira etapa, a novidade será lançada nos seguintes países:

• Estados Unidos;
• Canadá;
• Reino Unido;
• Austrália.

A Meta informou que pretende disponibilizar os novos recursos globalmente até o final deste ano, embora ainda não tenha divulgado um cronograma detalhado para cada país.

Conclusão

A nova ferramenta da Meta representa mais um avanço nas iniciativas de proteção voltadas ao público adolescente no Instagram. Ao combinar inteligência artificial, revisão humana e participação dos responsáveis, a empresa pretende identificar precocemente sinais de sofrimento emocional e ampliar o suporte oferecido aos jovens.

Para famílias que utilizam a supervisão parental, a atualização poderá servir como um importante mecanismo de alerta em situações delicadas. Já os adolescentes continuarão recebendo orientações e encaminhamentos para buscar ajuda sempre que a plataforma identificar possíveis indícios de risco.