TikTok substitui equipe por IA: entenda o impacto e os próximos passos

A empresa anunciou que parte significativa das demissões ocorreu na Malásia, onde inicialmente cerca de 700 funcionários foram afetados. No entanto, posteriormente, a TikTok revisou o número de desligamentos, afirmando que o total foi inferior a 500. Essas demissões fazem parte de um plano mais amplo para otimizar as operações de moderação de conteúdo da rede social, que, até então, utilizava um sistema híbrido de moderação, com IA e revisão humana trabalhando em conjunto.

A estratégia global do TikTok com foco em IA

O movimento de demissão foi confirmado pela própria ByteDance, que emprega mais de 110 mil pessoas em mais de 200 cidades ao redor do mundo. Segundo a empresa, a transição para uma moderação de conteúdo mais automatizada visa aumentar a eficiência operacional e garantir que a plataforma seja capaz de remover rapidamente conteúdos que violem suas diretrizes, sem a necessidade de intervenção humana em grande parte dos casos.

A TikTok revelou que espera que, até 2024, cerca de 80% dos conteúdos que violam as regras da rede sejam removidos por IA. Além disso, a ByteDance anunciou que irá investir aproximadamente US$ 2 bilhões (R$ 11,2 bilhões) em melhorias relacionadas à segurança e confiança na plataforma. O uso de IA para moderação de conteúdo está em linha com uma tendência crescente no setor de tecnologia, onde as empresas estão cada vez mais implementando sistemas automatizados para lidar com grandes volumes de informações.

Leia mais:

Smiles lança novo benefício para assinantes; confira 

Demissões e mudanças no cenário regulatório

As demissões, que foram reportadas inicialmente pelo portal The Malaysian Reserve, também ocorrem em um momento delicado para empresas de tecnologia na Malásia. Recentemente, o governo malaio solicitou que plataformas de mídia social, como o TikTok, obtenham uma licença de operação até janeiro de 2024, como parte de um esforço mais amplo para combater crimes cibernéticos no país.

Além disso, as autoridades malaias têm pressionado as redes sociais a aumentar a vigilância e a moderação de conteúdos considerados prejudiciais. Isso reflete uma preocupação global com o impacto das redes sociais na disseminação de desinformação, discurso de ódio e outros tipos de conteúdos nocivos.

Ao mesmo tempo, fontes próximas ao processo de reestruturação sugerem que novos cortes de pessoal podem ocorrer nos próximos meses. A ByteDance estaria considerando consolidar suas operações regionais, em resposta às exigências regulatórias em constante mudança e à necessidade de tornar sua estrutura operacional mais enxuta.

Como funciona o sistema de moderação do TikTok?

Atualmente, o TikTok utiliza um sistema de moderação híbrido, que combina inteligência artificial e intervenção humana. A IA é responsável por analisar um grande volume de conteúdo de maneira rápida, identificando potenciais violações às diretrizes da plataforma, como conteúdos impróprios, desinformação ou mensagens de ódio. No entanto, a intervenção humana ainda é necessária em muitos casos para garantir que as decisões sejam precisas e justas.

Com a reestruturação, a empresa pretende aumentar o uso de IA, minimizando o envolvimento de moderadores humanos. Essa mudança faz parte de uma tendência mais ampla na indústria de tecnologia, onde a automação está se tornando cada vez mais comum em diversos setores. O uso de IA em moderação de conteúdo, por exemplo, tem sido amplamente defendido como uma forma de melhorar a eficiência, reduzindo o tempo de resposta e eliminando erros humanos.

O impacto das demissões no futuro da TikTok

Embora a ByteDance tenha destacado os benefícios da IA para suas operações de moderação, as demissões em massa levantam questões importantes sobre o impacto nas operações locais e na segurança do trabalho dos funcionários. Muitos trabalhadores da área de tecnologia estão enfrentando um momento de incerteza, especialmente em países como a Malásia, onde o governo está adotando novas regulamentações para plataformas digitais.

Além disso, a crescente dependência da TikTok em IA levanta preocupações sobre a precisão das decisões automatizadas e a capacidade da plataforma de evitar erros, como a remoção indevida de conteúdo. Embora a IA seja eficiente na identificação de padrões de violações, a moderação de conteúdo é um campo delicado, onde nuances culturais e contextuais desempenham um papel importante.

O futuro da moderação de conteúdo nas redes sociais

A transição do TikTok para um sistema de moderação mais automatizado reflete uma mudança mais ampla no setor de tecnologia, onde o uso de IA está se expandindo rapidamente. No entanto, essa mudança também ressalta a necessidade de um equilíbrio entre a automação e a intervenção humana.

Redes sociais como o TikTok lidam diariamente com um grande volume de conteúdo, e a moderação precisa ser rápida e eficaz para garantir que a plataforma permaneça um espaço seguro para os usuários. No entanto, a moderação excessivamente automatizada pode levar a problemas, como a censura injusta ou a falha em identificar conteúdos problemáticos.

O TikTok, assim como outras plataformas, terá de enfrentar esses desafios à medida que continua a expandir o uso de IA em suas operações. Para muitos usuários e observadores da indústria, o sucesso da empresa nessa transição dependerá de como ela conseguirá equilibrar a eficiência da IA com a necessidade de uma moderação justa e precisa, especialmente em um ambiente global diversificado.

Conclusão: o impacto das mudanças no TikTok

A decisão do TikTok de demitir centenas de funcionários e aumentar o uso de IA em suas operações de moderação de conteúdo é um sinal claro de que a plataforma está apostando em uma estratégia de automação para lidar com o grande volume de informações geradas diariamente. No entanto, essa medida também traz desafios, principalmente em termos de impacto nas operações locais e na precisão da moderação.

Com um investimento substancial em segurança e confiança, o TikTok está se preparando para enfrentar as crescentes demandas regulatórias e as expectativas de usuários em todo o mundo. A transição para um sistema mais automatizado será crucial para o futuro da plataforma, e o sucesso dessa mudança será observado de perto pela indústria tecnológica e pelos governos que regulamentam o setor.