ChatGPT cita recurso inexistente e Soundslice decide implementá-lo

Nos últimos anos, a inteligência artificial (IA) tem sido uma grande aliada no desenvolvimento de novos produtos e recursos digitais. No entanto, um fenômeno curioso tem surgido à medida que as IAs, como o ChatGPT da OpenAI, influenciam diretamente o design de ferramentas e plataformas. O caso da plataforma Soundslice, especializada na edição de partituras, é um exemplo notável de como as sugestões feitas pela IA podem impactar a experiência do usuário e até mesmo alterar as funcionalidades de serviços que, inicialmente, não estavam planejadas para isso.

Neste artigo, exploraremos como a interação entre o ChatGPT e os usuários levou à criação de um recurso que, de outra forma, provavelmente não existiria na plataforma Soundslice. Discutiremos as razões por trás dessa mudança, os impactos no desenvolvimento de produtos digitais e o fenômeno que tem sido chamado de “desenvolvimento orientado a gaslight” pelos especialistas.

Leia mais:

ChatGPT faz estudantes aprenderem menos; entenda

O Caso Soundslice: A Criação de um Recurso Inesperado

O Soundslice é uma plataforma voltada para músicos, especialmente aqueles que trabalham com partituras e tablaturas. Seu foco principal está em oferecer ferramentas para criar, editar e compartilhar partituras de forma intuitiva. Porém, algo inusitado aconteceu com a plataforma quando os desenvolvedores começaram a perceber um aumento incomum nas falhas de importação de arquivos, especialmente os que estavam no formato de tablaturas em ASCII — um formato simples, mas amplamente utilizado por violonistas e outros músicos.

O curioso é que o Soundslice nunca havia prometido ou sequer oferecido suporte para esse tipo de arquivo. No entanto, os desenvolvedores começaram a receber diariamente tentativas de envio desse formato. O que estava acontecendo? A resposta estava no ChatGPT, que, sem que a equipe da plataforma tivesse conhecimento, estava sugerindo aos usuários que usassem esse tipo de arquivo.

O Fenômeno: Usuários Seguindo Instruções do ChatGPT

Adrian Holovaty, um dos responsáveis pela plataforma Soundslice, notou que o número de falhas de importação aumentou consideravelmente. Ao investigar a situação, a equipe descobriu que os usuários estavam tentando carregar arquivos de tablaturas em ASCII — algo que, até então, o serviço não suportava. Ao examinar o histórico de tentativas, a equipe se deparou com um padrão: muitos usuários haviam recebido instruções do ChatGPT para realizar essa ação.

“Em algumas conversas, o ChatGPT sugeria que os usuários utilizassem tablaturas em ASCII, mesmo sem nunca ter sido mencionada como uma funcionalidade do Soundslice”, afirmou Holovaty. Esse fenômeno causou um impacto significativo, com cerca de cinco a dez ocorrências por dia. O problema não era apenas técnico, mas uma questão de expectativas criadas pela IA, que estava gerando frustração entre os usuários.

A Decisão: Implementar o Recurso ou Ignorar?

A situação persistiu por semanas, o que levou a equipe a uma reflexão importante: o que fazer com a insatisfação gerada? Ignorar o problema ou implementar o recurso sugerido pela IA? Holovaty explicou que a escolha de não agir significaria continuar a frustrar os usuários, uma vez que a IA estava criando uma expectativa que o serviço não atendia.

Em vez de apenas rejeitar os pedidos ou colocar um aviso negando a compatibilidade, a equipe do Soundslice decidiu criar o recurso para atender às demandas. “A funcionalidade era tecnicamente fácil de ser implementada, e acreditamos que isso evitaria confusões futuras”, explicou Holovaty. A decisão foi simples: “Melhor implementar uma função que atendesse às expectativas, do que ignorar o problema e continuar gerando frustração.”

O Impacto da IA no Desenvolvimento de Produtos Digitais

O caso do Soundslice não é único. Cada vez mais, as IAs, como o ChatGPT, estão moldando o design e a estrutura dos produtos digitais. O fenômeno que se observou no Soundslice levanta questões sobre o papel da IA no desenvolvimento de ferramentas e plataformas.

No mundo do desenvolvimento de software, é comum que equipes de produto recebam feedback dos usuários sobre funções desejadas. Porém, agora, as sugestões de funcionalidades não vêm apenas de usuários ou especialistas da área; elas também vêm de IAs que, com sua habilidade de processar informações em grande escala, conseguem prever o que os usuários podem querer ou precisar. Esse novo comportamento de consumo de informação digital exige uma adaptação dos desenvolvedores às “preferências” criadas por essas ferramentas.

O “Desenvolvimento Orientado a Gaslight”

Niki Tonsky, desenvolvedor da plataforma Instant, um banco de dados voltado para projetos de front-end, também compartilhou sua experiência com um fenômeno semelhante. No caso de sua plataforma, os modelos de linguagem (LLMs), como o ChatGPT, frequentemente instruíam os usuários a procurar por um arquivo chamado “create”, enquanto o sistema usava um arquivo de texto chamado “update”. Após perceber que isso estava causando frustração entre os usuários, a equipe decidiu criar o arquivo “create”, mesmo que não fosse parte de sua estrutura original.

Tonsky apelidou esse fenômeno de “desenvolvimento orientado a gaslight”, uma referência ao efeito psicológico de manipulação da realidade, onde uma versão fictícia da realidade começa a ser aceita pela maioria. No contexto digital, isso se traduz em desenvolvedores criando funcionalidades baseadas nas expectativas da IA, mesmo que essas funcionalidades não fossem originalmente planejadas.

Desafios e Oportunidades Criadas Pela IA

A influência das IAs sobre o desenvolvimento de produtos apresenta desafios e oportunidades para as equipes de tecnologia. Um dos principais desafios é que as IAs podem criar expectativas irreais, levando os desenvolvedores a tomar decisões apressadas para atender a essas demandas. No caso do Soundslice, o desafio foi decidir entre ignorar a solicitação ou criar um recurso para agradar os usuários. Essa decisão, embora simples, gerou uma série de questionamentos sobre como as IAs devem influenciar o design de produtos.

Por outro lado, a interação com a IA também cria oportunidades de inovação. A capacidade das IAs de prever as necessidades dos usuários pode levar a novos recursos que os desenvolvedores talvez não tivessem considerado inicialmente. Isso abre novas possibilidades para plataformas e serviços, como a personalização de funcionalidades com base nas expectativas dos usuários.

O Papel da IA no Futuro do Desenvolvimento de Software

Com o avanço das IAs, a tendência é que elas desempenhem um papel cada vez mais importante no desenvolvimento de software e em outros setores. Embora os desenvolvedores ainda se mantenham cautelosos quanto à automação completa, o uso da IA como uma ferramenta para melhorar a experiência do usuário está se tornando cada vez mais comum.

No entanto, como apontado por Holovaty, é importante que as equipes de tecnologia mantenham um controle cuidadoso sobre o uso dessas ferramentas. “Não confio no ChatGPT para escrever código”, afirmou ele, enfatizando que, embora a IA seja útil, ela não deve substituir a criatividade e a expertise dos desenvolvedores humanos. “Escrever código é algo que gosto de fazer, e não faria sentido abrir mão disso apenas para agradar uma tendência”, completou Holovaty.

Imagem: Freepik/ Edição: Seu Crédito Digital