O relatório APIIRO revela que as diferenças da indústria estão moldando perfis generativos de risco de IA

Um novo relatório fora hoje da empresa de gerenciamento de postura de segurança de aplicativos Apiiro Ltd. Revela uma divergência crescente na maneira como as indústrias adotam e segura inteligência synthetic generativa no desenvolvimento de software program, com as organizações de varejo se transformando rapidamente em instituições de produção e financeiras adotando uma abordagem mais lenta e pesada de riscos.

A APIIRO analisou mais de 100.000 repositórios de código corporativo usando seu mecanismo de análise de código profundo para avaliar como os modelos, estruturas e dados de treinamento generativos estão sendo introduzidos em pipelines de desenvolvimento de software program nos setores. As descobertas destacam como a exposição ao risco da IA ​​generativa já é significativa, mas, curiosamente, o risco varia drasticamente, dependendo da indústria.

Verificou-se que as organizações de varejo integraram IA generativa em sistemas voltados para o cliente e envio à produção com mais do que o dobro da taxa de empresas de serviços financeiros. A telemetria da Apiiro mostra que existem 2,1 vezes mais bases de código relacionadas à IA generativas no varejo do que nas finanças. A atividade de desenvolvimento também foi mais alta no varejo, com 61% dos repositórios generativos de IA mostrando contribuição ativa em comparação com apenas 22% em finanças.

Por outro lado, as instituições financeiras estavam se movendo com mais cautela, mas com maior exposição ao risco. Verificou -se que o repositório generativo médio de IA em finanças tinha 688 dias, quase 1,5 vezes mais que a média de varejo de 453 dias.

As bases de código mais antigas são tipicamente correlacionadas com problemas de segurança mais altos e, não surpreendentemente, Apiiro encontrou um aumento de sete vezes na exposição dos segredos, como credenciais codificadas ou tokens em repositórios generativos de IA em comparação com aqueles sem componentes de IA. O risco é parcialmente o resultado de a IA generativa ser aparafusada nos sistemas herdados, criando pontos cegos na postura de segurança à medida que a adoção cresce sem a supervisão centralizada.

A sensibilidade dos dados foi considerada outra linha de falha entre as indústrias. As bases de código de varejo têm 1,8 vezes mais probabilities de conter dados confidenciais, com 26% dos projetos generativos de IA, incluindo informações de pagamento, registros de clientes ou informações de identificação pessoal, em comparação com 15% em finanças.

A exposição está ligada à personalização generativa de alimentação de IA em tempo actual, que exige acesso direto aos dados do cliente ao vivo, em comparação com instituições financeiras que geralmente restringem a IA a conjuntos de dados abstratos ou internos devido a preocupações de conformidade regulatória.

O relatório também destaca uma divergência surpreendente em ferramentas generativas de IA. Verificou -se que os desenvolvedores de varejo estavam se consolidando em torno dos kits de desenvolvimento de software program Python da OpenAI e Litellm. Por outro lado, as equipes financeiras foram encontradas para experimentar de maneira mais ampla entre ferramentas como Langchain e modelos personalizados, que fornecem maior flexibilidade, mas também adicionam complexidade e superfícies de risco de fragmento.

Itay Nussbaum, gerente de produtos da Apiiro e autor do relatório, diz que há conclusões claras. “A IA generativa já está em seu código-mas o que toca e o que ela corre depende de seu setor. No varejo, a IA generativa é rápida, voltada para o cliente e conectada a dados sensíveis. Em finanças, é mais lento, mais antigo e em camadas nos sistemas herdados. Ambos criam riscos-apenas de maneiras diferentes”.

Imagem: Siliconangle/Reve