As principais toca de Zdnet
- As extensões do navegador podem usar os avisos de IA para roubar seus dados.
- Todos os AI LLMs podem ser explorados, tanto comerciais quanto internos.
- A tecnologia da Layerx agora funciona com o Chrome for Enterprise para protegê -lo.
Essa extensão do navegador que você acabou de instalar no Chrome pode parecer inofensiva o suficiente. Se criado por um cibercriminal experiente, pode aproveitar a IA para roubar dados pessoais ou comerciais sem o seu conhecimento.
Também: Essa extensão é segura? Esta ferramenta gratuita permite que você saiba antes de instalar
UM Novo relatório A partir da Layerx, o provedor de segurança do navegador descreve como qualquer extensão do navegador pode acessar os avisos dos LLMs movidos a IA (grandes modelos de idiomas) para injetá-los com as instruções necessárias projetadas para roubar dados. Sem exigir permissões especiais, essa extensão pode ser especialmente perigosa em um ambiente de negócios, onde é capaz de capturar informações internas ou proprietárias.
Como funciona a exploração
A própria exploração é baseada na maneira como as ferramentas de IA mais generativas funcionam no navegador. Quando você usa um assistente de AI baseado em LLM, o immediate é projetado como parte da página da internet Modelo de objeto de documento (DOM), uma API que permite o acesso a todos os objetos na página. Quaisquer extensões com acesso ao script ao DOM podem ler diretamente e gravar para o immediate, de acordo com a Layerx.
Com esse nível de acesso, uma extensão maliciosa pode executar ataques de injeção imediata para alterar a entrada do usuário ou adicionar instruções ocultas. A partir daí, ele pode extrair dados do immediate authentic, da resposta da IA ou de toda a conversa. Por fim, a extensão pode induzir a IA a divulgar dados confidenciais ou executar tarefas maliciosas.
Também: 5 Regras de extensão do navegador para viver para manter seu sistema seguro em 2025
Embora isso discover potencialmente ameaça todos os usuários do navegador, o risco pode ser maior para as empresas. Aqui, os usuários podem copiar e colar conteúdo proprietário ou regulamentado em um immediate. Uma IA interna também tem acesso a dados corporativos confidenciais, qualquer coisa, desde código -fonte a documentos legais e planos de fusões e aquisições. Além disso, muitas empresas permitem que os funcionários instalem livremente qualquer extensão que desejarem, aumentando as possibilities de que um malicioso possa ser adicionado inadvertidamente.
Todos os tipos de LLMs são vulneráveis a essa exploração, de acordo com a Layerx. Isso inclui serviços de terceiros baseados na Internet como ChatGPT, Claude, Google Gemini e Microsoft Copilot, além de LLMs internos e ferramentas semelhantes.
(Divulgação: Ziff Davis, empresa controladora da ZDNET, entrou com um processo de abril de 2025 contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.)
Os pesquisadores provaram seu conceito
Como parte de sua pesquisa, a Layerx disse que testou com sucesso essa exploração em todos os principais LLMs comerciais, com atenção focada no ChatGPT e no Google Gemini. Com os dois AIS, os pesquisadores foram capazes de provar seu conceito de que uma extensão maliciosa poderia manipular a IA para encenar ataques de exfiltração de dados.
Com o ChatGPT, os pesquisadores descreveram as etapas a seguir para mostrar como o exploração funciona:
- Você instala uma extensão comprometida que não requer permissões especiais.
- Um servidor de comando e controle executado pelos atacantes envia uma consulta para a extensão.
- A extensão abre uma guia de fundo e consulta Chatgpt.
- Os resultados são exfiltrados a um log externo.
- A extensão exclui a conversa para encobrir seus trilhos. Como tal, visualizar o histórico de bate -papo não mostraria sinais de intrusão ou compromisso.
O Layerx encontrou algumas extensões já capazes de injeções rápidas. Extensões do Google Chrome como PROMPENTO ARCHERAssim, Gerente de prompte PromptFolder são todos capazes de ler, armazenar e escrever para solicitações de IA. Embora essas extensões pareçam ser perfeitamente legítimas, isso mostra como uma maliciosa pode usar a mesma funcionalidade para causar danos.
Como você pode se proteger contra extensões maliciosas?
Para o mundo dos negócios, a Layerx trabalhou com o Google para adicionar seu recurso de pontuação de riscos de extensão diretamente ao navegador Chrome for Enterprises. Quando você tenta usar uma extensão, a tecnologia da Layerx analisa todos os detalhes relevantes, incluindo as permissões de acesso, informações do editor e uso. O recurso também procura qualquer código malicioso na extensão e responde a tempo de bloqueá -lo.
Também: Encontrei uma extensão cromada maliciosa no meu sistema – eis como e o que eu fiz a seguir
Além de proteger os usuários individuais de extensões perigosas, a tecnologia da Layerx deve ajudar os administradores de TI a lidar melhor com tais ameaças. As pontuações de risco atribuídas a cada extensão aparecerão no painel de gerenciamento da Chrome Enterprise, fornecendo todos os detalhes necessários para determinar quais são legítimos e quais não são.
Além da proteção do Layerx para o Chrome Enterprise, os administradores de TI e segurança podem tomar algumas outras etapas para combater essas extensões maliciosas.
- Monitore as interações DOM. Monitore todas as interações DOM com as ferramentas generativas de IA da sua empresa. Esteja atento a qualquer ouvinte ou webhooks que possam interagir com os avisos da IA.
- Bloquear extensões de risco. Bloqueie extensões suspeitas não apenas por meio de listas de permissões, mas com base no risco actual. Sua melhor aposta é usar os detalhes da reputação do editor, juntamente com a caixa de areia de extensão dinâmica para impedir que extensões maliciosas sejam executadas.
Finalmente, a Layerx oferece um web site gratuito projetado para identificar extensões de navegador arriscadas. Conhecido como ExtensionpediaEste banco de dados on -line avalia a segurança de mais de 200.000 extensões em Chrome, Firefox e Edge.
Pegue as principais histórias da manhã em sua caixa de entrada todos os dias com nosso Tecnologia hoje boletim.
