Apple готовит изменения в macOS, призванные прояснить, когда агенты искусственного интеллекта запрашивают доступ к большим объемам информации, хранящейся на компьютере пользователя.
Этот шаг следует за растущей обеспокоенностью по поводу того, как мощные помощники ИИ взаимодействуют с частными данными.
Как сообщает Reuters, Apple заявила, что сделает запросы на широкий доступ к данным Mac более заметными после жалоб, связанных с агентом Meta Muse AI.
Агенты ИИ представляют собой значительный сдвиг от традиционных чат-ботов, поскольку они могут выполнять действия от имени пользователей, включая управление подписками, согласование цен и выполнение многошаговых задач.
Эта власть требует доступа к информации.
Вопрос, с которым все чаще сталкиваются технологические компании, заключается в том, сколько доступа должны предоставить пользователи и понимают ли они, что может увидеть система ИИ после предоставления разрешения.
Некоторые пользователи жаловались, что Muse, по их мнению, получал доступ к сообщениям, которые были частными.
Ответ Apple подчеркивает более широкую проблему, стоящую перед технологической отраслью.
По мере того, как системы ИИ становятся более способными работать с компьютерами независимо, разрешения операционной системы, первоначально разработанные для обычных приложений, могут больше не предоставлять пользователям достаточный контекст.
Поэтому следующая битва в ИИ может быть больше, чем просто интеллект.
Речь может идти о доверии.
