Um advogado que representa o Anthrópico admitiu usar uma citação errônea criada pelo Claude AI Chatbot da empresa em sua batalha legal em andamento com os editores de música, de acordo com um arquivamento feito em um tribunal do norte da Califórnia na quinta -feira.
Claude alucinou a citação com “um título impreciso e autores imprecisos”, diz Anthrópico no arquivamento, relatado pela Bloomberg pela primeira vez. Os advogados da Anthrópica explicam que sua “verificação de citação manual” não o pegou, nem vários outros erros causados pelas alucinações de Claude.
Anthrópica pediu desculpas pelo erro e o chamou de “um erro de citação honesto e não uma fabricação de autoridade”.
No início desta semana, advogados que representam o Universal Music Group e outros editores de música acusaram a testemunha especialista da Anthrópica – uma das funcionárias da empresa, Olivia Chen – de usar Claude para citar artigos falsos em seu testemunho. A juíza federal, Susan Van Keulen, ordenou que Anthrópica respondesse a essas alegações.
O processo dos editores de música é uma das várias disputas entre proprietários de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu trabalho para criar ferramentas generativas de IA.
Esta é a última instância de advogados que usam a IA no tribunal e depois lamentando a decisão. No início desta semana, um juiz da Califórnia criticou um par de escritórios de advocacia por enviar uma “pesquisa falsa gerada pela IA” em seu tribunal. Em janeiro, um advogado australiano foi pego usando o ChatGPT na preparação de documentos judiciais e o chatbot produziu citações defeituosas.
No entanto, esses erros não impedem as startups de levantar enormes rodadas para automatizar o trabalho legal. Harvey, que usa modelos generativos de IA para ajudar os advogados, está em negociações para arrecadar mais de US $ 250 milhões em uma avaliação de US $ 5 bilhões.