A Apple está preparando alterações no macOS projetadas para torná-lo mais claro quando agentes de inteligência artificial solicitam acesso a grandes quantidades de informações armazenadas no computador de um usuário.
O movimento segue a crescente preocupação sobre como poderosos assistentes de IA interagem com dados privados.
A Reuters relata que a Apple disse que tornaria as solicitações de acesso amplo aos dados do Mac mais visíveis após reclamações envolvendo o agente de IA Muse da Meta.
Os agentes de IA representam uma mudança significativa dos chatbots tradicionais porque podem realizar ações em nome dos usuários, incluindo gerenciar assinaturas, negociar preços e completar tarefas de vários passos.
Esse poder requer acesso à informação.
A questão que cada vez mais confronta as empresas de tecnologia é quanto acesso os usuários devem conceder e se eles entendem completamente o que um sistema de IA pode ver uma vez que a permissão é fornecida.
Alguns usuários queixaram-se de que Muse parecia acessar mensagens que acreditava serem privadas, informou Reuters.
A resposta da Apple destaca um desafio mais amplo que a indústria tecnológica enfrenta.
À medida que os sistemas de IA se tornam mais capazes de operar computadores de forma independente, as permissões do sistema operacional originalmente projetadas para aplicações convencionais podem deixar de fornecer aos usuários contexto suficiente.
A próxima batalha em IA pode ser mais do que inteligência.
Pode ser sobre confiança.
