Se você precisava de outro motivo para evitar a meta -IA como a praga, além de forçar o seu AI Chatbot em todos os seus aplicativos sociais e procurando transformar todos os seus dados públicos em materials de treinamento para a IA, uma investigação encontrou uma incrivelmente perturbadora. O Meta Ai Chatbots, incluindo alguns dos que é dublado por celebridades, pode se envolver em bate -papos sexualmente explícitos com usuários de menores de idade.
Esta não é a primeira vez que ouvimos falar de AI Chatbots usados para companheirismo, incluindo fantasias sexuais. Mas The Wall Street Journal diz que a meta pode não mudar nada. Aparentemente, a diretiva vem de Mark Zuckerberg, que acha que a IA Chatbots será a próxima grande novidade nas mídias sociais, e ele não quer perder isso como Meta fez com as tendências do Snapchat e Tiktok.
A Meta AI disponibiliza seus chatbots em seus aplicativos sociais, e a empresa prosseguiu e licenciou as vozes de estrelas conhecidas como Kristen Bell, John Cena e Judi Dench para expressar alguns deles. Também licenciou personagens da Disney para alguns desses chatbots da AI.
Os usuários da Meta AI podem criar seus próprios chatbots, dando a eles personalidades específicas ou usando as existentes.
O diário Os testes descobriram que a Meta Ai Chatbots direcionaria rotineiramente a conversa para o sexo, mesmo quando esses modelos de IA sabiam que estavam conversando com usuários menores de idade que não deveriam ter acesso a esse conteúdo.
Meta chamada O diário Testes manipuladores e não representativos de como a maioria das pessoas se envolve com companheiros de IA. Ainda assim, a Meta fez alterações em seus produtos Meta AI após as descobertas do artigo.
As contas registradas em menores não podem mais acessar a dramatização sexual through Meta AI. Além disso, a empresa aparentemente reduz a capacidade da Meta AI de se envolver em conversas sexualmente explícitas ao usar vozes e personas licenciadas.
A Disney não ficou feliz em saber que alguns de seus personagens poderiam ser usados de tais maneiras pela Meta Ai – eis o que um porta -voz disse O diário:
Não o fizemos, e nunca teria autorizado a Meta a apresentar nossos personagens em cenários inadequados e estamos muito perturbados por esse conteúdo ter sido acessível a seus usuários – particularmente menores de idade – e é por isso que exigimos que a meta imediatamente cesse esse uso indevido prejudicial de nossa propriedade intelectual.
A Meta Ai Chatbots tinha guardrails mais fortes no lugar. O relatório diz que uma competição Defcon 2023 mostrou que a Meta AI period mais segura que os concorrentes. A IA period “muito menos provável de se virar para um território sem escritos e travessores” do que os rivais. Também period mais chato.
Mark Zuckerberg não estava satisfeito com o time da Meta Ai jogando muito seguro. Ele queria que os guardraxes fossem afrouxados, o que levou a Meta Ai obter a capacidade de se envolver em bate -papos sexualmente explícitos. Esse recurso deu aos usuários adultos acesso a personas de IA hipersexualizadas e usuários de menores de idade acesso a chatbots da IA dispostos a se envolver em sexo de fantasia com crianças.
O relatório também diz que Zuckerberg tinha planos maiores para os chatbots, procurando torná -los mais humanos. Para isso, ele também queria que os chatbots mineessem o perfil de um usuário para dados que seriam usados em bate -papos com a IA:
As preocupações de Zuckerberg sobre restringir demais os robôs foram além dos cenários de fantasia. No outono passado, ele castigou os gerentes de Meta por não atender adequadamente suas instruções para aumentar rapidamente sua capacidade de interação humana.
Na época, a Meta permitia que os usuários criassem companheiros de chatbot personalizados, mas ele queria saber por que os bots não podiam minerar os dados de perfil de um usuário para fins de conversação. Por que os bots não poderiam enviar uma mensagem proativa de seus criadores ou pular em uma videochamada, assim como os amigos humanos? E por que os bots de Meta precisavam de corrimões de conversação rigorosos?
O completo Wall Avenue Journal O relatório, completo com exemplos sexualmente explícitos de bate -papos com a IA, vale uma leitura completa. Está disponível Neste link.
