O Google Mensagens começou a lançar seu recurso de avisos de conteúdo sensível, que obscurecem automaticamente imagens que podem conter nudez, mantendo todo o processamento no seu telefone para proteger a privacidade.
O recurso usa a AI Safetycore da Android para detectar e desabafar imagens potencialmente explícitas sem enviar nenhum dado aos servidores do Google. Essa nova ferramenta visa proteger os usuários, especialmente os adolescentes, de conteúdo explícito indesejado. Foi anunciado pela primeira vez em outubro de 2024 e agora está aparecendo nas versões beta.
“As mensagens do Google usam modelos de aprendizado de máquina no dispositivo para classificar esses golpes, para que suas conversas permaneçam privadas e o conteúdo nunca seja enviado ao Google, a menos que você relate spam,” O Google disse em uma postagem no blog no ano passado.
Quando alguém recebe imagens que podem conter nudez, o sistema as obscurece automaticamente e fornece três opções: veja a imagem, bloqueie o remetente ou aprenda sobre os riscos de conteúdo explícito. Os usuários que optam por visualizar a imagem podem desfocá -la novamente mais tarde, tocando em um botão “Remover visualização”.
O sistema também funciona ao enviar imagens. Ele fornece uma “luminária suave” “que visa ajudar os usuários a reconsiderar os riscos de compartilhar imagens nuas e evitar compartilhamentos acidentais. As pessoas que tentam enviar imagens explícitas recebem um aviso sobre os riscos e devem confirmar antes que possam enviar.
O Google configurou diferentes configurações padrão com base na idade do usuário. Para crianças com contas gerenciadas através do Hyperlink Household, o recurso está ligado por padrão e não pode ser desligado. Os adolescentes de 13 a 17 anos sem supervisão dos pais também têm o recurso ativado automaticamente, mas podem desligá-lo nas configurações. Para os adultos, o recurso é opcional e deve ser ativado manualmente.
Atualmente, a tecnologia tem algumas limitações. Ele funciona apenas com imagens regulares, não vídeos e requer o Android 9 ou mais recente com pelo menos 2 GB de RAM. O recurso também não está amplamente disponível, aparecendo apenas em determinados telefones executando a versão beta mais recente do Google Mensagens.
Ao contrário de alguns serviços concorrentes que usam processamento baseado em nuvem para moderação do conteúdo, a abordagem do Google mantém todas as análises no dispositivo do usuário, evitando preocupações de privacidade sobre o envio de imagens confidenciais a servidores externos.
O Google planeja lançar esse recurso para todos os dispositivos Android elegíveis até o ultimate de 2025. Os usuários interessados podem verificar se o recurso está disponível olhando no Google Mensagens Configurações em Proteção e Segurança> Gerenciar avisos de conteúdo sensível.
Esse recurso ocorre quando as empresas de tecnologia enfrentam pressão crescente para proteger os usuários mais jovens, respeitando a privacidade. A Apple tem um recurso de aviso de conteúdo sensível e sensível, e a Meta anunciou recentemente Detecção aprimorada da IA Age para contas adolescentes no Instagram.
