META FRIGES OSCULITO CONTRA A IA FRIENTE PORTA PARA BENAS FALHAS NÃO -CONSENSUAIS DE NUS

A Meta Platforms Inc. anunciou hoje que está processando uma empresa que anunciou aplicativos generativos de inteligência artificial nas plataformas da Meta que permitiram aos usuários “nudificar” as pessoas de uma imagem vestida.

O processo, lançado em Hong Kong contra o Joy Timeline Hk Ltd., afirma que a empresa consistentemente tentou contornar o processo de revisão da Meta, anunciando o aplicativo Crushai – que permite que os usuários praticamente se despirem praticamente qualquer um que desejam, “vejam alguém nu” e geralmente sem o consentimento da pessoa.

“Essa ação legal ressalta a seriedade com a qual tomamos esse abuso e nosso compromisso em fazer todo o possível para proteger nossa comunidade”, disse Meta. “Continuaremos a tomar as medidas necessárias, o que pode incluir ações legais contra aqueles que abusam de nossas plataformas como essa”.

O processo ocorreu depois que a gigante da mídia social investigou os chamados aplicativos NUDify, que, de acordo com essa investigação, estão sendo vendidos e anunciados em toda a Internet. Há muito se sabe que as pessoas abusam da tecnologia DeepFake para criar imagens sexualizadas, mas parece que os aplicativos nudizantes foram permitidos até agora proliferar sem muita reação.

De acordo com a pesquisa de Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech, do outono no ano passado até o início deste ano, a Crush AI teve mais de 8.000 anúncios no Facebook e Instagram. A Meta não permite “imagens íntimas não consensuais” em suas plataformas, mas diz que esses aplicativos são difíceis de detectar pela tecnologia de detecção de nudez devido à natureza benigna de seus anúncios ou ao fato de criar novos nomes de domínio após a bloqueio de seus sites.

“Trabalhamos com especialistas externos e nossas próprias equipes especializadas para expandir a lista de termos, frases e emojis relacionados à segurança de que nossos sistemas são treinados para detectar com esses anúncios”, disse Meta.

É relatado que os aplicativos são frequentemente usados ​​para se despir virtualmente de celebridades, mas uma preocupação mais premente é que eles possam ser usados ​​com imagens de crianças. Em 2024, dois adolescentes na Flórida foram preso Depois que eles teriam usado a IA generativa para criar imagens sexualizadas de seus colegas de classe. Os aplicativos NUDify, supostamente vendidos atualmente em lojas de aplicativos, tornariam essa atividade muito fácil de realizar.

Nos EUA, a Lei de Take It Down foi aprovada na Câmara em abril deste ano e mais tarde foi assinada pelo presidente Donald Trump. A lei criminaliza a publicação de vídeos e imagens sexualmente explícitos de DeepFake não consensuais, ao mesmo tempo em que facilitam as vítimas para remover as imagens.

Foto: Unsplash