A nova ferramenta de rastreamento de dados da AI abre o caminho para maior responsabilidade e explicação da IA

A ambiciosa startup de governança de grandes dados A IA INC. quer lidar com um dos maiores obstáculos que impedem as empresas altamente reguladas de adotar a inteligência synthetic com o lançar de uma nova plataforma chamada Information Journeyys.

A empresa disse hoje que Journeys de dados trata -se de ajudar as empresas a entender como seus dados viajam por um labirinto de diferentes sistemas de computador em sua organização. Ele mantém o controle de onde reside os dados, de onde veio, onde está indo a seguir e também como e por que estão sendo usados ​​por diferentes aplicativos e serviços.

A IA da Confundação é uma startup de cinco anos que ganhou destaque em outubro passado, quando levantou US $ 32 milhões em um financiamento da Série B. É o criador de uma plataforma de governança que visa fornecer uma visibilidade clara dos dados em toda a empresa, bem como controla para proteger essas informações.

Sua plataforma funciona digitalizando todos os dados dentro de uma organização, incluindo tudo o que reside em seus aplicativos, bancos de dados, modelos de IA e repositórios de código. Em seguida, compara esses dados com todas as políticas declaradas nos contratos e regulamentos da Companhia para garantir que nada esteja errado.

Com as jornadas de dados, a IA de Confundação agora está usando a mesma tecnologia principal para acompanhar os dados durante toda a sua jornada, à medida que flui para diferentes sistemas, aplicativos e modelos de IA.

A startup diz que as jornadas de dados são uma grande melhoria nas ferramentas tradicionais de linhagem de dados usadas pelas empresas para rastrear dados. Esses sistemas são restritos a rastrear apenas o movimento de dados em base de mesa a mesa ou coluna para coluna, mas não têm mais visibilidade. Por exemplo, se os dados forem movidos de um bucket da Amazon S3 para um banco de dados completamente novo, eles perderão a trilha, para que ninguém possa dizer de onde veio originalmente. Isso significa que não há clareza em relação às transformações que ocorreram à medida que os dados se movem de sistemas de terceiros, interfaces de programação de aplicativos e arquiteturas de geração de recuperação de recuperação.

Com as jornadas de dados, a Relyance AI quer fornecer uma visão muito mais abrangente. O objetivo é revelar o ciclo de vida completo dos dados, de onde é coletado, onde é movido e como é transformado ao longo do caminho, e também a visibilidade de como está sendo usada. Faz isso usando a análise contínua do código -fonte, fornecendo um contexto maior sobre como os dados estão sendo processados, em comparação com os sistemas que apenas se conectam aos repositórios de dados.

A startup diz que as empresas precisam dessa visibilidade aprimorada porque estão sob maior pressão dos reguladores. Ele observa que mais de 25% das empresas da Fortune 500 rotularam o regulamento de IA como um risco em registros na Comissão de Valores Mobiliários dos EUA.

As empresas estão ansiosas para adotar as possibilidades de IA, mas isso vem com uma necessidade urgente de garantir a responsabilidade sobre como esses sistemas usam seus dados. Em um entrevista Com a VentureBeat, a co-fundadora da Relyance AI, Abhi Sharma, disse que o establishment da IA ​​sendo visto como algum tipo de “caixa preta” de dados, fontes e consultas deve mudar.

“Estamos fornecendo transparência não como um recurso, mas como uma necessidade de justiça, responsabilidade e confiança para nossos clientes”, explicou.

A oferta de jornadas de dados é particularmente interessante para empresas do setor de saúde fortemente regulamentado.

“Depois de ver as viagens de dados da AI, reconhecemos imediatamente seu potencial de revolucionar nossa abordagem ao desenvolvimento responsável da IA”, disse a oficial de privacidade da CHG HealthCare Inc. Heather Allen. “Os recursos automatizados de linhagem de dados com reconhecimento de contexto enfrentariam nossos desafios mais prementes. Representa exatamente o que estamos procurando para apoiar nossa estrutura international de governança de IA”.

Segundo Sharma, as jornadas de dados podem resolver quatro principais impedimentos à adoção da IA ​​corporativa: gerenciamento de riscos, detecção precisa de viés, explicação e responsabilidade e conformidade regulatória.

Por exemplo, os recursos de rastreamento da Information Journeys permitem o viés potencial nos modelos de IA a serem rastreados diretamente na fonte. Sharma explicou que, em muitos casos, o viés não é de dados de baixa qualidade no conjunto de dados subjacentes, mas a jornada que as informações adotaram.

Além disso, a explicação aprimorada será very important para a tomada de decisões em áreas como aprovações de empréstimos e diagnósticos médicos, pois permitirá que os modelos mostrem por que chegaram a uma certa conclusão.

“Muitas vezes, o comportamento incorreto do modelo depende completamente das várias etapas que tomou antes do tempo de inferência”, disse Sharma.

Aguardando Sharma, disse que sua empresa está procurando construir uma “plataforma AI-nativa unificada” para governança de dados, gerenciamento e conformidade, e ele acredita que as jornadas de dados serão um componente crítico. “Os agentes da IA ​​vão administrar o mundo, e queremos ser aquela empresa que fornece a infraestrutura para as organizações confiarem e a governarem”, disse ele.

Imagem: Siliconangle/Meta AI