No início deste mês, Adrian Holovaty, fundador da plataforma de ensino musical, sonslice, resolveu um mistério que o atormentava há semanas. Imagens estranhas do que claramente eram sessões de bate -papo continuavam sendo carregadas no site.
Depois que ele resolveu, ele percebeu que Chatgpt havia se tornado um dos maiores homens de sua empresa – mas também estava mentindo para as pessoas sobre o que seu aplicativo poderia fazer.
Holovaty é mais conhecido como um dos criadores do projeto Django de código aberto, uma popular estrutura de desenvolvimento da web do Python (embora ele se aposentasse do gerenciamento do projeto em 2014). Em 2012, ele lançou o Sounslice, que permanece “orgulhosamente inicialmente inicial”, ele diz ao TechCrunch. Atualmente, ele está focado em sua carreira musical, tanto como artista quanto como fundadora.
A Soundlice é um aplicativo para ensinar música, usada por alunos e professores. É conhecido por seu player de vídeo sincronizado com as anotações musicais que orientam os usuários sobre como as notas devem ser tocadas.
Ele também oferece um recurso chamado “partitura Scanner” que permite que os usuários enviem uma imagem de partituras em papel e, usando a IA, transformarão isso automaticamente em uma folha interativa, completa com notações.
Holovaty observa cuidadosamente os registros de erros desse recurso para ver quais problemas ocorrem, onde adicionar melhorias, disse ele.
Foi aí que ele começou a ver as sessões de chatgpt enviadas.
Eles estavam criando um monte de logs de erros. Em vez de imagens de partituras, essas eram imagens de palavras e uma caixa de símbolos conhecidos como comprimido ASCII. Esse é um sistema básico baseado em texto usado para notações de guitarra que usam um teclado comum. (Não há chave aguda, por exemplo, no seu teclado QWERTY padrão.)
O volume dessas imagens de sessão de chatgpt não era tão oneroso que estava custando dinheiro à empresa para armazená -las e esmagar a largura de banda de seu aplicativo, disse Holovaty. Ele ficou perplexo, escreveu em um post sobre a situação.
“Nosso sistema de varredura não pretendia apoiar esse estilo de notação. Por que, então, estávamos sendo bombardeados com tantas capturas de tela ASCII Tab Chatgpt? Fiquei confuso por semanas – até mexi com o Chatgpt.”
Foi assim que ele viu o ChatGpt dizendo às pessoas que eles podiam ouvir essa música abrindo uma conta do Soundslice e enviando a imagem da sessão de bate -papo. Só eles não podiam. O upload dessas imagens não traduzia a guia ASCII em notas de áudio.
Ele ficou impressionado com um novo problema. “O custo principal era reputação: os novos usuários da Sonslice estavam entrando com uma expectativa falsa. Eles foram informados com confiança que faríamos algo que realmente não fazemos”, ele descreveu o TechCrunch.
Ele e sua equipe discutiram suas opções: SLAP Isenções em todo o site – “Não, não podemos transformar uma sessão de chatgpt em música ouvinte” – ou construir esse recurso no scanner, mesmo que ele nunca tivesse considerado apoiar o sistema de notação musical incomum.
Ele optou por construir o recurso.
“Meus sentimentos sobre isso estão em conflito. Fico feliz em adicionar uma ferramenta que ajuda as pessoas. Mas sinto que nossa mão foi forçada de uma maneira estranha. Deveríamos realmente estar desenvolvendo recursos em resposta à desinformação?” ele escreveu.
Ele também se perguntou se este foi o primeiro caso documentado de uma empresa ter que desenvolver um recurso porque o ChatGPT continuava repetindo, para muitas pessoas, sua alucinação sobre isso.
Os colegas programadores do Hacker News tiveram uma opinião interessante: vários deles disseram que não é diferente de um vendedor humano exagerado prometendo o mundo a perspectivas e depois forçar os desenvolvedores a fornecer novos recursos.
“Eu acho que é uma comparação muito adequada e divertida!” Holovaty concordou.