Uma plataforma para bate-papo e interpretação com caracteres gerados pela IA, o personagem.ai anunciou na segunda-feira que está lançando uma lista de recursos multimídia. Esses recursos incluem Avatarfx, modelo de geração de vídeo do caractere.ai, além de cenas e fluxos, que permitem que os usuários usem essas ferramentas de IA para criar vídeos usando seus personagens e depois compartilhá-los em um novo feed social.
“O caractere.ai começou como um bate -papo de texto 1: 1 e hoje estamos evoluindo para fazer muito mais, inspirado pelo que nossos usuários nos disseram (nós) que querem ver na plataforma”, escreveu a empresa em uma postagem no blog.
O personagem.ai começou a lançar o Avatarfx para assinantes no mês passado, mas agora todos os usuários podem criar até cinco vídeos por dia. Ao criar um vídeo com o Avatarfx, os usuários podem fazer upload de uma foto para servir como base para o videoclipe, escolher uma voz e escrever texto para o personagem dizer.
Há uma opção para fazer upload de um clipe de áudio para informar o som da voz, embora esse recurso não estivesse funcionando bem o suficiente para testar após o lançamento.
Os usuários podem transformar esses vídeos em cenas, onde seus personagens podem entrar em histórias pré-populadas que outros usuários criam. Atualmente, as cenas estão disponíveis no aplicativo móvel, mas os fluxos, o que permite que os usuários criem “momentos dinâmicos entre dois caracteres”, está chegando nesta semana na Web e no celular. Essas cenas e fluxos podem ser compartilhados para um novo feed da comunidade, que está em breve no aplicativo móvel.
O caractere.ai tem um histórico de abuso em sua plataforma; Os pais entraram com ações judiciais contra a empresa, alegando que os chatbots tentaram convencer seus filhos a se auto-prejudicar, se matar ou matar seus pais. Um garoto de 14 anos morreu por suicídio depois que ele foi incentivado a fazê-lo por um personagem.
À medida que o caractere.ai expande suas ofertas multimídia, ele também expande o potencial para que esses produtos sejam abusados.
Como o caractere.ai disse ao TechCrunch quando anunciou o Avatarfx, a plataforma impede que os usuários enviem fotografias de pessoas reais – sejam celebridades ou não – e obscurece sua semelhança em algo menos reconhecível.
Por exemplo, aqui está a versão estranha do Vale do personagem.ai de Mark Zuckerberg:
Mas quando se trata de obras de arte que representam celebridades, o personagem.ai não sinaliza as imagens como representando pessoas reais – no entanto, esse tipo de representações teria menos probabilidade de enganar alguém a acreditar que um deepfake é real.
Além disso, as marcas d’água de caracteres.ai são cada vídeo, embora seja possível que os maus atores naveguem por essa salvaguarda.
Aqui está um exemplo de uma tentativa de DeepFake baseada em uma ilustração de Elon Musk:
Mesmo que este vídeo tivesse sido gerado com a voz real de Elon Musk, ainda ficaria relativamente claro que esta é uma versão animada de uma ilustração – mas a possibilidade de abuso permanece evidente.
“Nosso objetivo é fornecer um espaço envolvente que promova a criatividade, mantendo um ambiente seguro para todos”, disse o personagem.