Crowdstrike apresenta novas ferramentas para bloquear modelos de IA maliciosos, Exfiltração de dados

Crowdstrike Holdings Inc. hoje estreou Novos recursos que podem ajudar as empresas a proteger os funcionários de modelos maliciosos de inteligência synthetic e outras ameaças.

Os recursos estão sendo lançados na principal plataforma de segurança cibernética do Falcon.

O primeiro novo recurso, a digitalização do modelo de IA, promete detectar os chamados modelos trojanizados. Esses são os modelos de IA que operam conforme o esperado na maioria das situações, mas geram saída maliciosa se receberem determinados prompts. Um hacker pode, por exemplo, configurar um assistente de programação para gerar conselhos incorretos quando os desenvolvedores perguntarem como remover uma vulnerabilidade de seu código.

Os cibercriminosos criam modelos trojanizados, injetando registros maliciosos em seus dados de treinamento. Também é possível gerar saída prejudicial modificando os pesos de uma rede neural, configurações de configuração que determinam como ele processa solicita.

Juntamente com os modelos trojanizados, a nova varredura de modelo de IA pode identificar backdoors e outras ameaças. Ele classifica os problemas encontrados pela gravidade usando uma tecnologia apelidada de exprt.ai. De acordo com Crowdstrike, o Exprt.ai usa inteligência de ameaças sobre a campanha de hackers para determinar a probabilidade de uma vulnerabilidade ser explorada.

A digitalização do modelo de IA está sendo lançada ao lado de outro novo recurso conhecido como o painel de segurança da AI. Ele foi projetado para ajudar os administradores a detectar a IA Shadow, ou situações em que os trabalhadores usam aplicativos de IA potencialmente inseguros sem permissão. Além disso, o recurso pode monitorar como são usados ​​os dados internos de treinamento de IA de uma empresa.

A plataforma Falcon da Crowdstrike também possui outro componente projetado para identificar o uso indevido de dados. A proteção de dados do Falcon, como é chamado o módulo, pode detectar riscos como tentativas de baixar registros sensíveis em um dispositivo inseguro. O módulo está recebendo vários novos recursos como parte da atualização de hoje.

A empresa diz que a proteção de dados do Falcon agora pode detectar movimentos de dados não autorizados nos Macs. Além disso, a nova versão é consideravelmente melhor em detectar tentativas de ofuscar a exfiltração de arquivos.

Os hackers costumam roubar dados, violando uma empresa e copiando registros para um servidor fora da rede corporativa da empresa. As tentativas de mover arquivos para fora da rede corporativa podem ser detectadas por ferramentas de segurança cibernética com relativa facilidade. Como resultado, os hackers às vezes tentam cobrir suas faixas embalando dados roubados em arquivos ZIP criptografados antes de movê -los. Esses arquivos são difíceis para que as ferramentas de segurança cibernética digitalizem.

De acordo com Crowdstrike, o último lançamento do Falcon Information Safety verifica os arquivos ZIP criptografados “como eles são criados” e não após o fato. Isso permite que ele digitalize seu conteúdo em busca de dados roubados. Além disso, diz Crowdsstrike, a proteção de dados do Falcon pode detectar tentativas de fazer add de dados confidenciais para ferramentas generativas de IA, mesmo quando os dados são modificados com antecedência.

Completando a atualização está uma nova versão da ferramenta chamada Falcon Information Safety for Cloud. Ele foi projetado para identificar movimentos de dados não autorizados em ambientes de nuvem pública. O software program pode identificar atividades não autorizadas em aplicativos, bancos de dados e outros ativos do native.

As atualizações do produto são acompanhadas por uma nova oferta de serviço profissional chamada SaaS Ameaças Serviços. As empresas que se inscrevem podem fazer com que os profissionais de crowdstrike digitalizem seus aplicativos de software program como serviço para configurações de configuração insegura, integrações arriscadas com aplicativos externos e problemas relacionados.

Foto: Crowdstrike