O Google diz que seu caçador de insetos baseado em IA encontrou 20 vulnerabilidades de segurança

O Bug Hunter, movido a IA, acaba de relatar seu primeiro lote de vulnerabilidades de segurança.

Heather Adkins, vice -presidente de segurança do Google, anunciado Segunda-feira, o pesquisador de vulnerabilidades do LLM, Huge Sleep, encontrou e relatou 20 falhas em vários softwares populares de código aberto.

Adkins disse que o Huge Sleep, que é desenvolvido pelo Departamento de Departamento de AI da empresa, bem como sua equipe de elite do Projeto Zero, Zero, relatou suas primeiras vulnerabilidadesprincipalmente em software program de código aberto, como biblioteca de áudio e vídeo FFMPEG e ImageMagick Suite de edição de imagens.

Dado que as vulnerabilidades ainda não estão consertadas, não temos detalhes de seu impacto ou gravidade, como Google ainda não quer fornecer detalhesque é uma política padrão ao esperar que os bugs sejam corrigidos. Mas o simples fato de que o Huge Sleep achou essas vulnerabilidades é significativo, pois mostra que essas ferramentas estão começando a obter resultados reais, mesmo que houvesse um humano envolvido neste caso.

“Para garantir relatórios de alta qualidade e acionáveis, temos um especialista em Loop Human antes de relatar, mas cada vulnerabilidade foi encontrada e reproduzida pelo agente da IA sem intervenção humana”, disse Kimberly Samra, porta -voz do Google.

Royal Hansen, vice -presidente de engenharia do Google, escreveu em x que as descobertas demonstram “uma nova fronteira na descoberta automatizada de vulnerabilidades”.

As ferramentas movidas a LLM que podem procurar e encontrar vulnerabilidades já são uma realidade. Além de um grande sono, há Runsybile Xbow, entre outros.

Xbow ganhou manchetes depois chegou ao topo de uma das tabelas de classificação dos EUA no Bug Bounty Platform Hackerone. É importante observar que, na maioria dos casos, esses relatórios têm um humano em algum momento do processo para verificar se o caçador de insetos movido a IA encontrou uma vulnerabilidade legítima, como é o caso com grande sono.

Vlad Ionescu, co-fundador e diretor de tecnologia da Runsybil, uma startup que desenvolve caçadores de insetos movidos a IA, disse ao TechCrunch que o Huge Sleep é um projeto “legítimo”, já que ele tem “um bom design, as pessoas por trás dele sabem o que estão fazendo”.

Obviamente, há muita promessa com essas ferramentas, mas também desvantagens significativas. Várias pessoas que mantêm diferentes projetos de software program se queixaram de relatórios de bugs que são realmente alucinações, com algumas chamando -as de recompensa de insetos equivalente à inclinação da IA.

“Esse é o problema que as pessoas estão se encontrando, é que estamos recebendo muitas coisas que parecem ouro, mas na verdade é apenas uma porcaria”, disse Ionescu anteriormente ao TechCrunch.