Durante o lançamento de Grok 4 pela Xai na noite de quarta-feira, Elon Musk disse-enquanto transmitia ao vivo o evento em sua plataforma de mídia social, X-que o objetivo final de sua empresa de IA era desenvolver uma “IA de busca de verdade máxima”. Mas onde exatamente o Grok 4 procura a verdade ao tentar responder a perguntas controversas?
O mais novo modelo de IA da XAI parece consultar postagens de mídia social da conta X de Musk ao responder a perguntas sobre o conflito de Israel e Palestina, aborto e leis de imigração, de acordo com vários usuários que postaram sobre o fenômeno nas mídias sociais. Grok também parecia referir a posição de Musk sobre assuntos controversos por meio de artigos de notícias escritos sobre o fundador bilionário e a face de Xai.
O TechCrunch foi capaz de replicar esses resultados várias vezes em nossos próprios testes.
Essas descobertas sugerem que o GROK 4 pode ser projetado para considerar a política pessoal de seu fundador ao responder a perguntas controversas. Esse recurso pode abordar a frustração repetida de Musk com Grok por ser “Too Woke”, que ele atribuiu anteriormente ao fato de que Grok é treinado em toda a Internet.
As tentativas de Xai de lidar com a frustração de Musk, tornando Grok menos politicamente correto pela culatra nos últimos meses. Musk anunciou em 4 de julho que a Xai havia atualizado o prompt do sistema de Grok – um conjunto de instruções para o AI Chatbot. Dias depois, um X automatizado é responsável por respostas anti -semitas aos usuários, até mesmo alegando ser “mechahitler” em alguns casos. Mais tarde, a startup de AI de Musk foi forçada a limitar a conta X de Grok, excluir essas postagens e alterar seu sistema de sistema voltado para o público para abordar o incidente embaraçoso.
Projetar Grok para considerar as opiniões pessoais de Musk é uma maneira direta de alinhar o chatbot da AI à política de seu fundador. No entanto, levanta questões reais sobre como a GROK “maximamente busca de verdade” é projetada para ser, versus o quanto ele foi projetado para concordar com Musk, o homem mais rico do mundo.
Quando o TechCrunch perguntou a Grok 4: “Qual é a sua posição sobre a imigração nos EUA?”, O AI Chatbot afirmou que estava “procurando por Elon Musk Views sobre a imigração dos EUA” em sua cadeia de pensamentos-o termo técnico para o pad scratchpad em que os modelos de raciocínio da IA, como Grok 4, trabalho através de perguntas. Grok 4 também alegou pesquisar no X por postagens de mídia social de Musk sobre o assunto.
Os resumos da cadeia de pensamentos gerados pelos modelos de raciocínio de IA não são uma indicação perfeitamente confiável de como os modelos de IA chegam às suas respostas. No entanto, eles geralmente são considerados uma aproximação muito boa. É uma área aberta de pesquisa que empresas como OpenAI e Antrópica têm explorado nos últimos meses.
A TechCrunch descobriu repetidamente que a Grok 4 mencionou que estava procurando as opiniões de Elon Musk em seus resumos de cadeia de pensamentos em várias questões e tópicos.
Nas respostas do GROK 4, o AI Chatbot geralmente tenta adotar uma posição medida, oferecendo várias perspectivas sobre tópicos sensíveis. No entanto, o AI Chatbot finalmente dará sua própria visão, o que tende a se alinhar com as opiniões pessoais de Musk.
Em várias das instruções da TechCrunch, perguntando sobre a visão de Grok 4 sobre questões controversas, como imigração e a Primeira Emenda, o AI Chatbot chegou a referenciar seu alinhamento com Musk.
Quando o TechCrunch tentou obter Grok 4 para responder a perguntas menos controversas – como “Qual é o melhor tipo de manga?” -O AI Chatbot não parecia referir as visões ou postagens de Musk em sua cadeia de pensamentos.
Notavelmente, é difícil confirmar como exatamente o GROK 4 foi treinado ou alinhado porque a XAI não lançou um sistema – relata o Setor Standard que detalha como um modelo de IA foi treinado e alinhado. Enquanto a maioria das cartões de sistema da AI Labs libera para todos os seus modelos de IA de fronteira, a XAI normalmente não.
A empresa de AI de Musk está em um lugar difícil nos dias de hoje. Desde a sua fundação em 2023, Xai correu rapidamente para a fronteira do desenvolvimento do modelo de IA. O GROK 4 exibiu resultados de abstinagem de benchmark em vários testes difíceis, superando os modelos de IA do OpenAI, Google DeepMind e Anthropic no processo.
No entanto, o avanço foi ofuscado pelos discursos anti -semitas de Grok no início da semana. Esses flubs podem afetar as outras empresas de Musk à medida que ele faz de Grok uma característica central de X, e logo Tesla.
A Xai está tentando simultaneamente convencer os consumidores a pagar US $ 300 por mês para acessar a GROK e as empresas para criar aplicativos com a API da GROK. Parece provável que os repetidos problemas com o comportamento e o alinhamento de Grok possam inibir sua adoção mais ampla.