Por Anne Fehres e Luke Conroy & Ai4Media Atualizada em: 15 de julho de 2025 / 11:16 EDT / The Conversation Grok, a perceptibilidade sintético (AI) Chatbot incorporada em X (anteriormente twitter) e construiu “Musk’s Company, Xai, está de volta nas cabeças depois de chamadas” Mechahit) e “Musk,” Musk’s Company, está de volta nas cabeças depois que chamam ” Postagens “e” tomadas medidas para proibir o exposição de ódio “das postagens de Grok nos debates de X. Também foram revividos os debates de IA. Mas a mais recente controvérsia de Grok é reveladora não para as saídas extremistas, mas porquê expõe uma desonestidade fundamental no desenvolvimento da IA. Musk afirma estar construindo uma IA de “procura de verdade” livre de preconceitos, mas a implementação técnica revela programação ideológica sistêmica. Xai, que também possui a plataforma de mídia social x. O chatbot está disponível independente e, no X. Xai, afirma que “o conhecimento da IA deve ser abrangente e o mais abrangente verosímil”. Musk já posicionou Grok porquê uma escolha de verdade aos chatbots acusados de ser “acordado” por comentaristas de direita. Levante último levou à sua proibição na Turquia. Logo, porquê os desenvolvedores imbuam uma IA com esses valores e moldam o comportamento do chatbot? Os chatbots de hoje são criados usando grandes modelos de idiomas (LLMS), que oferecem vários desenvolvedores de alavancas. O que faz com que uma IA “se comporte” dessa maneira? Pré-treinamento primeiro, os desenvolvedores selecionam os dados usados durante o pré-treinamento-a primeira lanço na construção de um chatbot. Isso envolve não exclusivamente a filtragem de teor indesejado, mas também enfatizando o material desejado.GPT-3 mostrou a Wikipedia até seis vezes mais do que outros conjuntos de dados, pois o OpenAI considerou uma qualidade mais subida. Grok é treinado em várias fontes, incluindo postagens de X, o que pode explicar por que Grok foi relatado para verificar a opinião de Elon Musk sobre tópicos controversos. Ele também apelou à comunidade X para problemas e fatos difíceis de “cérebro da galáxia” que são “politicamente incorretos, mas, no entanto, factualmente verdadeiros”. Não sabemos se esses dados foram usados ou quais medidas de controle de qualidade foram aplicadas. Ajuste do segundo passo, ajuste fino, ajusta o comportamento do LLM usando feedback. Os desenvolvedores criam manuais detalhados, descrevendo suas posições éticas preferidas, que os revisores humanos ou os sistemas de IA usam porquê uma rubrica para estimar e melhorar as respostas do chatbot, codificando efetivamente esses valores na máquina. Embora os documentos de integração tenham dito que Grok não deve “impor uma opinião que confirme ou nega o viés de um usuário”, eles também declararam que deve evitar respostas que afirmam que os dois lados de um debate têm valor quando não o fazem. O sistema solicita o prompt do sistema – instruções fornecidas antes de cada conversa – orienta o comportamento logo que o protótipo é implantado. Em seu crédito, a Xai publica o sistema de Grok solicita. Suas instruções para “assumir pontos de vista subjetivos provenientes da mídia são tendenciosos” e “não evitam fazer reivindicações politicamente incorretas, desde que sejam muito comprovadas”, provavelmente foram fatores -chave na controvérsia mais recente. Esses avisos estão sendo atualizados diariamente no momento da escrita, e sua evolução é um estudo fascinante. respostas. O Openai afirma que não permite que o ChatGPT “gere teor odioso, sitiado, violento ou adulto”. Enquanto isso, o protótipo chinês Deepseek Censors Discussion of Tianamen Square. Testes de ad-hoc Ao redigir leste item sugere que a GROK é muito menos restrita a esse saudação do que os produtos concorrentes. A controvérsia nazista do ParadoxGrok da transparência destaca uma questão moral mais profunda: preferimos que as empresas de IA sejam explicitamente ideológicas e honestas sobre isso, ou mantenhamos a ficção da neutralidade enquanto incorporam secretamente seus valores? Todo sistema de IA principal reflete a perspectiva de seu instituidor da Microsoft, a perspectiva corporativa da Microsoft. A diferença é a transparência. As declarações públicas de Musk facilitam a localização dos comportamentos de Grok às crenças declaradas de Musk sobre a “ideologia acordada” e o viés da mídia. Enquanto isso, quando outras plataformas falham espetacularmente, ficamos adivinhando se isso reflete opiniões de liderança, aversão ao risco corporativo, pressão regulatória ou acidente. Isso se sente familiar. Grok se assemelha a 2016 da Microsoft em 2016, divulgando o Tay Chatbot, também treinado nos dados do Twitter e solta no Twitter antes de ser desligado. Mas há uma diferença crucial. O racismo de Tay emergiu da manipulação do usuário e das más salvaguardas – uma conseqüência não propositado. O comportamento de Grok parece sofrear pelo menos parcialmente de seu design. A verdadeira prelecção de Grok é sobre honestidade no desenvolvimento da IA. À medida que esses sistemas se tornam mais poderosos e generalizados (o base da GROK nos veículos da Tesla foi anunciado), a questão não é se a IA refletirá os valores humanos. É se as empresas serão transparentes sobre quais valores estão codificando e por quê. A abordagem de Musk é simultaneamente mais honesta (podemos ver sua influência) e mais enganosa (reivindicando objetividade durante a programação da subjetividade) do que seus concorrentes. Em um setor construído sobre o mito de algoritmos neutros, Grok revela o que tem sido verdadeiro o tempo todo: não existe uma IA recto – exclusivamente ai cujos preconceitos podemos ver com vários graus de transparência.
https://www.cbsnews.com/news/grok-musk-nazi-chatbot-ai-training/