A Meta testou uma solução que colocava atendentes humanos terceirizados por trás de algumas chamadas telefônicas que deveriam ser realizadas pelo Muse, seu novo agente pessoal de inteligência artificial. Chamada internamente de “concierge humano”, a ferramenta permitia que operadores assumissem discretamente determinadas ligações quando a IA não conseguia concluir a tarefa sozinha.
O experimento chama atenção porque o Muse foi apresentado justamente como um agente capaz de executar tarefas do cotidiano de forma autônoma. Entre as funções estão fazer compras, enviar e-mails, reservar viagens e entrar em contato com estabelecimentos para verificar informações ou consultar disponibilidade.
Os testes começaram em agosto, mas a Meta decidiu interromper a experiência após funcionários levantarem preocupações relacionadas à privacidade e à transparência.
Leia mais:
Quem recebe BPC deve ficar atento ao aumento da renda familiar no CadÚnico
Como funcionava o concierge humano do Muse?
O Muse foi desenvolvido para realizar tarefas em nome do usuário. No caso das chamadas telefônicas, a proposta é permitir que o agente entre em contato com empresas para obter informações, verificar disponibilidade de produtos ou até mesmo resolver questões relacionadas a reservas.
Durante o teste, algumas dessas ligações podiam ser encaminhadas para um atendente humano terceirizado. Na prática, o usuário acreditaria estar delegando a tarefa ao agente de inteligência artificial, enquanto uma pessoa assumiria a conversa em determinadas situações.
Mensagens internas obtidas pela Reuters indicaram que a Meta descrevia o funcionamento como uma possibilidade de encaminhar determinados pedidos para um agente treinado, responsável por realizar a chamada e cuidar do processo.
A intervenção humana, portanto, não era apenas um suporte técnico convencional. Ela fazia parte da execução da tarefa que havia sido entregue pelo usuário ao Muse.
Por que a Meta interrompeu o teste?
A principal preocupação levantada internamente estava relacionada à privacidade dos usuários.
Um agente pessoal de IA pode ter acesso a uma quantidade significativa de informações para conseguir realizar determinadas tarefas. Dependendo da atividade solicitada, isso pode envolver dados de contato, compromissos, preferências e outras informações pessoais.
Quando uma pessoa assume uma ligação feita em nome do usuário, surge uma camada adicional de exposição. Dados que poderiam permanecer restritos ao sistema de inteligência artificial passam a estar potencialmente acessíveis a um funcionário terceirizado.
Segundo a Reuters, uma executiva da Meta reconheceu que foi uma falha iniciar os testes sem deixar suficientemente clara a possibilidade de intervenção humana. A companhia posteriormente reverteu a funcionalidade.
Meta ainda pretende melhorar as chamadas do Muse
O recuo não significa que a Meta tenha abandonado a ideia de fazer o Muse realizar ligações.
O porta-voz Daniel Roberts afirmou que o retorno recebido durante os testes foi majoritariamente positivo. Segundo ele, a companhia continuará trabalhando com comerciantes para aprimorar a tecnologia antes de um possível lançamento.
Documentos internos também indicaram que a participação de operadores humanos aumentou significativamente a taxa de sucesso das chamadas. Os resultados teriam ficado entre 95% e 98%, acima do desempenho registrado nas ligações feitas exclusivamente pela inteligência artificial.
O dado ajuda a explicar o interesse da Meta em continuar desenvolvendo a função. Ao mesmo tempo, evidencia uma dificuldade enfrentada atualmente pelos agentes de IA: executar tarefas no mundo real pode ser muito mais complexo do que simplesmente gerar uma resposta em uma conversa.
O caso revela um desafio dos agentes de inteligência artificial
O episódio do Muse mostra uma questão que deve ganhar importância à medida que agentes de IA se tornam mais comuns.
Assistentes tradicionais são utilizados principalmente para responder perguntas, produzir textos ou fornecer informações. Os agentes autônomos têm uma proposta diferente: recebem uma ordem e executam uma sequência de ações para alcançar determinado objetivo.
Isso significa que a inteligência artificial precisa interagir com sites, aplicativos, empresas e, em alguns casos, pessoas.
Uma ligação telefônica é um exemplo particularmente complexo. O interlocutor pode fazer uma pergunta inesperada, solicitar uma informação adicional ou conduzir a conversa de maneira diferente daquela prevista pelo sistema.
Nessas situações, a intervenção de uma pessoa pode aumentar as chances de conclusão da tarefa. O problema é que essa solução também cria novas questões de privacidade e transparência.
Meta havia prometido atenção à segurança
A segurança foi um dos pontos enfatizados pela Meta durante a apresentação do Muse.
A empresa afirmou que cada usuário teria uma máquina virtual isolada na nuvem para executar as atividades do agente. A companhia também informou que credenciais sensíveis seriam armazenadas em estruturas protegidas.
A proposta é impedir que informações importantes fiquem diretamente expostas durante a execução das tarefas.
O caso do concierge humano, entretanto, mostra que proteger tecnicamente os dados dentro da infraestrutura não é suficiente para eliminar todos os riscos. Se uma tarefa exigir contato com uma pessoa, será necessário definir também quais informações podem ser compartilhadas e em quais circunstâncias.
Muse teve estreia forte nos Estados Unidos
O episódio ocorre poucas semanas depois do lançamento do Muse.
Segundo informações divulgadas sobre o aplicativo, o agente ultrapassou 2,5 milhões de instalações nas duas primeiras semanas nos Estados Unidos e chegou ao topo do ranking de downloads da App Store americana.
O Muse foi desenvolvido para executar tarefas como compras online, envio de e-mails e reservas de viagens. A ferramenta faz parte da estratégia da Meta de transformar seus sistemas de inteligência artificial em agentes capazes de realizar atividades completas para os usuários.
O serviço ainda não foi disponibilizado no Brasil com a mesma abrangência.
O Muse consegue fazer ligações sozinho?
Sim. A realização de chamadas faz parte das capacidades que a Meta vem desenvolvendo para o agente.
A ideia é que o usuário possa solicitar, por exemplo, que o Muse entre em contato com um estabelecimento para descobrir se determinado produto está disponível ou verificar informações sobre horários.
Em vez de apenas explicar ao usuário como conseguir aquela informação, o agente tenta realizar a tarefa diretamente.
A experiência do concierge humano mostra, porém, que a Meta ainda está trabalhando para aumentar a autonomia e a confiabilidade desse tipo de operação.
O que acontece agora com o recurso?
A Meta retirou o teste com operadores humanos, mas afirmou que continuará desenvolvendo a tecnologia de chamadas.
Antes de uma eventual expansão, a empresa terá de lidar com questões que vão além da capacidade técnica do agente. Entre elas estão transparência, consentimento, proteção de informações pessoais e definição clara de quando uma pessoa pode assumir uma tarefa iniciada pela IA.
O caso também pode servir de referência para outras empresas que desenvolvem agentes capazes de agir em nome dos usuários.
Quanto maior a autonomia de uma inteligência artificial, maior tende a ser a necessidade de explicar o que acontece durante a execução de uma tarefa.
O que o caso do Muse mostra sobre o futuro da IA?
O teste do “concierge humano” expõe uma contradição no desenvolvimento dos agentes de inteligência artificial.
Quanto mais complexas são as tarefas que a IA precisa realizar, maior pode ser a necessidade de intervenção humana para resolver situações inesperadas. Ao mesmo tempo, essa intervenção pode criar riscos que não existiriam em uma operação totalmente automatizada.
Para o usuário, a questão não envolve apenas saber se uma tarefa foi concluída. Também passa a ser relevante entender como ela foi realizada e quem teve acesso às informações utilizadas durante o processo.
No caso do Muse, a Meta decidiu recuar do experimento após os questionamentos internos, mas não desistiu da tecnologia. O próximo passo será descobrir como aumentar a eficiência do agente sem comprometer a transparência esperada de um serviço que pretende agir diretamente em nome das pessoas.
Conclusão
O teste do concierge humano mostra que a corrida pelos agentes autônomos de inteligência artificial ainda enfrenta obstáculos que vão além do desenvolvimento dos modelos.
No Muse, operadores humanos conseguiram aumentar a taxa de sucesso das chamadas, mas a solução levantou preocupações sobre o acesso de terceiros a informações dos usuários. A Meta interrompeu o experimento e reconheceu problemas de transparência, enquanto mantém o desenvolvimento do recurso.
A questão deve se tornar cada vez mais relevante conforme agentes de IA passam a fazer compras, reservar serviços, enviar mensagens e realizar ligações. A autonomia pode facilitar tarefas do cotidiano, mas também exige regras claras sobre privacidade, participação humana e transparência.