Apple prépare des changements à macOS conçus pour le rendre plus clair lorsque les agents d'intelligence artificielle demandent l'accès à de grandes quantités d'informations stockées sur l'ordinateur d'un utilisateur.
Le déménagement fait suite à une inquiétude croissante quant à l'interaction des assistants d'IA puissants avec les données privées.
Reuters rapporte qu'Apple a déclaré qu'il rendrait les demandes d'accès aux données Mac larges plus visibles après les plaintes concernant l'agent Muse AI de Meta.
Les agents d'IA représentent un changement important par rapport aux robots de chat traditionnels parce qu'ils peuvent effectuer des actions pour le compte des utilisateurs, y compris la gestion des abonnements, la négociation des prix et l'achèvement des tâches en plusieurs étapes.
Ce pouvoir exige l'accès à l'information.
La question qui se pose de plus en plus aux entreprises technologiques est de savoir combien d'utilisateurs d'accès devraient accorder et s'ils comprennent parfaitement ce qu'un système d'IA peut voir une fois l'autorisation accordée.
Certains utilisateurs se plaignaient que Muse semblait avoir accès à des messages qu'ils croyaient privés, selon Reuters.
La réponse d'Apple met en évidence un défi plus large auquel l'industrie de la technologie est confrontée.
À mesure que les systèmes d'IA deviennent plus capables d'exploiter les ordinateurs de façon indépendante, les autorisations de systèmes d'exploitation conçues à l'origine pour les applications conventionnelles peuvent ne plus fournir suffisamment de contexte aux utilisateurs.
La prochaine bataille en AI peut donc être plus que de l'intelligence.
Il pourrait s'agir de confiance.
