Ai está sendo forçada a nós em praticamente todas as facetas da vida, de telefones e aplicativos a mecanismos de pesquisa e até mesmo drive-throughspor algum motivo. O fato de agora estarmos recebendo navegadores da net com assistentes de IA e chatbots assados mostra que a maneira como algumas pessoas estão usando a Web para procurar e consumir informações hoje é muito diferente de alguns anos atrás.
Mas as ferramentas de IA estão cada vez mais solicitando níveis brutos de acesso aos seus dados pessoais sob o disfarce de precisar que funcione. Esse tipo de acesso não é regular, nem deve ser normalizado.
Não faz muito tempo, você estaria certo em questionar por que um aplicativo gratuito de “lanterna” ou “calculadora” de aparência inócua na App Retailer tentaria solicitar acesso aos seus contatos, fotos e até seus dados de localização em tempo actual. Esses aplicativos podem não precisar desses dados para funcionar, mas solicitarão se acharem que podem ganhar um ou dois dólares monetizando seus dados.
Hoje em dia, a IA não é tão diferente.
Pegue o mais recente navegador da Internet da Perplexity, Comet, como exemplo. O Comet permite que os usuários encontrem respostas com seu mecanismo de pesquisa de IA embutido e automatizem tarefas de rotina, como resumir e-mails e eventos de calendário.
Em uma recente prática com o navegador, o TechCrunch descobriu que, quando a perplexidade solicita acesso ao calendário do Google de um usuário, o navegador pede uma ampla faixa de permissões para a conta do Google do usuário, incluindo a capacidade de gerenciar rascunhos e enviar e-mails, fazer o obtain de seus contatos, visualizar e editar os eventos de todos os calendários e até a capacidade de receber um dos seus contatos, e editarem seus contatos.
Perplexity diz que grande parte desses dados é armazenada localmente no seu dispositivo, mas você ainda está concedendo os direitos da empresa a Acesso e uso Suas informações pessoais, inclusive para melhorar seus modelos de IA para todos os outros.
A perplexidade não está sozinha ao pedir acesso aos seus dados. Há uma tendência de aplicativos de IA que prometem economizar tempo, transcrevendo suas chamadas ou reuniões de trabalho, por exemplo, mas que exigem um assistente de IA para acessar suas conversas privadas em tempo actual, seus calendários, contatos e muito mais. A Meta, também tem testado os limites do que seus aplicativos de IA podem pedir acesso, incluindo tocar nas fotos armazenadas no rolo da câmera do usuário que ainda não foram carregadas.
O presidente da Sign, Meredith Whittaker, comparou recentemente o uso de agentes e assistentes de IA para “colocar seu cérebro em uma jarra”. Whittaker explicou como alguns produtos de IA podem prometer fazer todos os tipos de tarefas mundanas, como reservar uma mesa em um restaurante ou reservar um ingresso para um present. Mas, para fazer isso, a IA dirá que precisa de sua permissão para abrir seu navegador para carregar o website (o que pode permitir que a IA tenha acesso a suas senhas armazenadas, favoritos e seu histórico de navegação), um cartão de crédito para fazer a reserva, seu calendário para marcar an information e também pode pedir seus contatos para que você possa compartilhar a reserva com um amigo.
Existem sérios riscos de segurança e privacidade associados ao uso de assistentes de IA que dependem de seus dados. Ao permitir o acesso, você está instantaneamente e irreversivelmente entregando os direitos a um instantâneo inteiro de suas informações mais pessoais a partir desse momento, a partir da caixa de entrada, mensagens e entradas de calendário que datam dos anos e muito mais. Tudo isso para executar uma tarefa que economiza o tempo ostensivamente – ou, até o ponto de Whittaker, evita que você exact pensar ativamente sobre isso.
Você também está concedendo a permissão do agente da IA para agir de forma autônoma em seu nome, exigindo que você confie uma enorme quantidade de confiança em uma tecnologia que já é propensa a errar ou inventar as coisas. O uso da IA exige ainda que você confie nas empresas que procuram lucro que desenvolvem esses produtos de IA, que dependem de seus dados para tentar fazer com que seus modelos de IA tenham melhor desempenho. Quando as coisas dão errado (e elas fazem, muito), é uma prática comum para os seres humanos das empresas de IA analisarem seus avisos privados para descobrir por que as coisas não funcionaram.
Do ponto de vista de segurança e privacidade, uma análise simples de custo-benefício da conexão de IA aos seus dados mais pessoais simplesmente não vale a pena desistir do acesso às suas informações mais privadas. Qualquer aplicativo de IA solicitando esses níveis de permissões deve enviar seus alarmes tocando, assim como o aplicativo de lanterna que deseja conhecer sua localização a qualquer momento.
Dadas as resmas de dados que você entrega às empresas de IA, pergunte -se se o que você obtém disso realmente vale a pena.
