Vídeos racistas e anti -semitas criados com o gerador de vídeo VEO 3 do Google ganharam milhões de visualizações sobre o Tiktok desde maio, levando as remoções da plataforma e expondo falhas críticas nas medidas de segurança de inteligência artificial (IA).
Os vídeos criados com o VEO 3 atingiram 14,2 milhões de visualizações sobre o Tiktok antes da remoção. Media Matters publicou essas descobertas Em 1º de julho. O conteúdo gerado pela IA mostrou os negros como macacos e criminosos, promovendo idéias prejudiciais sobre vários grupos raciais.
A Media Matters identificou os vídeos através de marcas d’água “Veo” e limites de clipe de oito segundos. Esses recursos correspondem às especificações da ferramenta. Os pesquisadores encontraram conteúdo direcionado aos americanos negros, asiáticos, comunidades judaicas e imigrantes em Tiktok, Instagram e YouTube.
“É nojento e perturbador que esses tropos e imagens raciais estejam prontamente disponíveis para serem projetados e distribuídos em plataformas on -line”, disse Nicol Turner Lee, diretor do Center for Technology Innovation da Brookings Institution, da Wired.
Google Lançado o VEO 3 em maio de 2025comercializá-lo como um gerador de texto para vídeo com proteções de segurança integradas. O políticas da empresa Proibir explicitamente a criação de conteúdo que promove o discurso ou assédio de ódio. Aparentemente, essas salvaguardas falharam quando os usuários empregaram solicitados indiretos que evitavam filtros direcionados ao ser humano.
Tiktok removeu as contas identificadas após a publicação do relatório. Muitos já haviam sido banidos antes que a mídia seja concluída sua investigação.
“Executamos proativamente regras robustas contra discursos e comportamentos odiosos”, disse a porta -voz da Tiktok, Ariane de Selliers.
Os vídeos usaram imagens de animais para ignorar os filtros de conteúdo enquanto promovem idéias racistas. Um clipe mostrou a polícia atirando em um “preto” e obteve mais de 14 milhões de visualizações. Outro mostrou macacos em um restaurante com melancia e frango frito, atingindo 600.000 visualizações.
Os comentários mostraram que os espectadores entenderam as mensagens racistas. “Bro até a IA tem fadiga negra”, escreveu um espectador em um vídeo de avião de macaco.
Alguns criadores monetizaram o conteúdo odioso vendendo cursos de US $ 15, ensinando outros a gerar vídeos semelhantes usando o VEO 3. Os tutoriais levaram os alunos a solicitar técnicas que contornavam as medidas de segurança do Google.
A situação se estende além dos vídeos individuais para revelar problemas sistêmicos com o desenvolvimento da IA e a governança de mídia social. Os sistemas de moderação de conteúdo lutam para encontrar o discurso de ódio gerado pela IA. Isso é especialmente difícil quando usa linguagem codificada e símbolos visuais.
O Google não respondeu aos pedidos de comentários sobre as falhas de segurança do VEO 3. A empresa planeja adicionar o gerador de vídeo aos shorts do YouTube. Isso pode expandir o alcance de conteúdo semelhante.
O incidente segue um padrão de ferramentas de IA que reproduzem vieses sociais, apesar das proteções técnicas. Pesquisas anteriores mostram Os sistemas de IA mostram consistentemente preconceitos raciais. Eles atribuem características negativas aos falantes de inglês afro -americano e continuam estereótipos históricos.
Os desafios de aplicação da Tiktok refletem lutas mais amplas da indústria com o conteúdo gerado pela IA. A plataforma remove menos de 1% dos vídeos publicados por violações de políticas, de acordo com seus próprios relatórios. Os formatos de vídeo curtos dificultam a moderação contextual, enquanto a distribuição algorítmica pode amplificar o conteúdo prejudicial.
A propagação viral mostra como as ferramentas de IA podem armar técnicas antigas de propaganda. Imagens racistas que, uma vez exigiam, certas habilidades agora podem ser geradas instantaneamente por meio de avisos de texto, reduzindo as barreiras à criação e espalhamento do discurso de ódio.
