O chatbot incorporado no X de Elon Musk, que se referiu a si mesmo como “mechahitler” e fez comentários anti -semitas na semana passada poderia ser considerada terrorismo ou teor de extremismo violento, um tribunal australiano ouviu.
Mas uma testemunha especializada para X argumentou que um grande modelo de idioma não pode ser atribuído a intenção, apenas o usuário.
Xai, a empresa de inteligência artificial de Musk, pediu desculpas na semana passada pelos comentários feitos por seu chatbot Grok por um período de 16 horas, que atribuiu ao “código depreciado” que tornava Grok suscetível às postagens de usuários ex existentes, “incluindo quando essas postagens continham visualizações extremistas”.
A explosão entrou em foco em uma audiência do Tribunal de Revisão Administrativa na terça -feira, onde X está desafiando um aviso emitido pelo comissário da esafafa, Julie Inman Grant, em março do ano passado, pedindo à plataforma que explique como está tomando ação contra o terrorismo e o material violento (TVE).
A testemunha especializada de X, o professor de economia do RMIT, Chris Berg, forneceu evidências para o caso de que foi um erro assumir que um grande modelo de idioma pode produzir esse conteúdo, porque é a intenção do usuário promover o grande modelo de linguagem que é fundamental para definir o que pode ser considerado terrorismo e violento conteúdo do extremismo.
Uma das testemunhas especializadas da Esavidade, o professor de Direito da Universidade de Tecnologia de Queensland, Nicolas Suzor, discordou de Berg, afirmando que era “absolutamente possível para chatbots, IA generativa e outras ferramentas para ter algum papel na produção do chamado TVE sintético”.
“Esta semana está bastante cheia deles, com o chatbot grok de X produzindo [content that] se encaixa nas definições de TVE ”, disse Suzor.
Ele disse que o desenvolvimento da IA tem influência humana “até o fim”, onde você pode encontrar intenção, incluindo as ações de Musk para mudar a maneira como Grok estava respondendo a perguntas para “parar de ser acordado”.
O Tribunal ouviu que X acredita que o uso de seu recurso de notas da comunidade (onde os usuários podem contribuir para verificar uma postagem no site) e o recurso de análise da GROK (onde ele fornece contexto em uma postagem) pode detectar ou abordar TVE.
Após a promoção do boletim informativo
Tanto a Suzor quanto a colega especialista em esafafa, Josh Roose, professora associada de política da Universidade Deakin, disse à audiência que era contestada se as notas da comunidade eram úteis a esse respeito. Roose disse que a TVE exigia que os usuários relatassem o conteúdo a X, que entrou em uma “caixa preta” para a empresa investigar, e muitas vezes apenas uma pequena quantidade de material foi removida e um pequeno número de contas proibidas.
Suzor disse que, após os eventos da semana passada, era difícil ver Grok como “busca de verdade” em suas respostas.
“É incontroverso dizer que Grok não está maximalizando a verdade ou a verdade.
Berg argumentou que o recurso GROK Analyze em X não havia sido atualizado com os recursos que fizeram com que o chatbot da plataforma fizesse as respostas que fez na semana passada, mas admitiu o chatbot que os usuários respondem diretamente em X “desapareceu um pouco dos trilhos”, compartilhando conteúdo de discurso de ódio e “apenas um conteúdo muito bizarro”.
Suzor disse que Grok foi alterado para não maximizar a busca da verdade, mas “para garantir que as respostas estejam mais alinhadas com a visão ideológica de Musk”.
No início da audiência, os advogados de X acusaram a segurança de tentar transformar a audiência “em uma comissão real em certos aspectos de X”, depois que o comentário de Musk se referindo a Inman Grant como um “comissário” foi apresentado no interrogatório de um funcionário da X sobre as reuniões realizadas com X antes do aviso emitido.
O advogado do governo, Stephen Lloyd, argumentou que X estava tentando argumentar que a esafafa estava sendo “indevidamente adversária” em suas relações com X, e que X interrompeu as negociações em um ponto crítico antes que o aviso fosse emitido. Ele disse que a “abordagem agressiva” veio da liderança de X.
A audiência continua.
