Microsoft представила функцию Recall для Windows 11, вызвавшую опасения у экспертов по безопасности

На этой неделе компания Microsoft анонсировала новую функцию искусственного интеллекта для Windows 11 под названием Recall. Она предназначена для фиксации всей активности пользователя на компьютере и последующего формирования отчетов и поиска по истории за последние три месяца. Однако эксперты по информационной безопасности уже выразили серьезную обеспокоенность по поводу конфиденциальности и безопасности данных при использовании Recall.

Особенности Recall и компьютеров Copilot+

Компания Microsoft представила функцию Recall 20 мая 2024 года в рамках мероприятия, предваряющего конференцию Microsoft Build 2024. В этом году основное внимание уделяется искусственному интеллекту и Copilot, поэтому одним из главных анонсов стали компьютеры Copilot+ и функция Recall для Windows 11, которая будет работать именно на этих машинах.

Recall создана для того, чтобы помочь пользователям “вспомнить” любую информацию, просмотренную ранее, и сделать ее доступной через простой поиск. Функция делает снимок активного окна на экране каждые несколько секунд, записывая все действия пользователя в Windows, будь то просмотр веб-страниц, общение в мессенджерах или работа с приложениями. По умолчанию данные хранятся до трех месяцев, а пользователь может выбирать, в каких приложениях разрешено делать снимки. Для работы Recall требуется накопитель объемом не менее 256 ГБ и минимум 50 ГБ свободного места.

Снимки обрабатываются нейронным процессором (NPU) устройства и ИИ-моделью для извлечения данных. Затем информация сохраняется, и пользователи могут просматривать историю скриншотов и осуществлять поиск по ней на естественном языке. Это позволяет легко найти, например, письмо, прочитанное месяц назад, или когда-то посещенный сайт.

Microsoft подчеркивает, что все собранные данные шифруются с помощью BitLocker, привязанного к учетной записи пользователя в Windows, и не передаются другим пользователям на том же устройстве.

Recall будет работать только на компьютерах Copilot+, которые скоро появятся у Dell, Lenovo, Samsung, HP, Acer, Asus и самой Microsoft (в линейке Surface). Эти устройства смогут выполнять более 40 TOPS, будут оснащены нейронным процессором, чипами Snapdragon X/X Plus, минимум 16 ГБ ОЗУ и 256 ГБ SSD. В будущем ожидаются модели на базе Intel Lunar Lake и AMD Strix.

Опасения по поводу конфиденциальности и безопасности

Анонс Recall вызвал волну критики со стороны как обычных пользователей, так и специалистов по информационной безопасности. Несмотря на заверения Microsoft о том, что все данные будут храниться только на устройстве пользователя в зашифрованном виде, многие считают, что это создаст серьезные риски для конфиденциальности и откроет новый вектор атак, нацеленных на кражу данных.

Microsoft заявляет, что пользователи смогут контролировать сбор снимков, исключать определенные приложения и сайты, приостанавливать создание скриншотов, очищать сохраненные данные. Также обещано, что Recall не будет делать снимки окон в режиме InPrivate в Edge и другом Chromium-браузере, а также контента, защищенного DRM. Однако пока неясно, будут ли поддерживаться приватные режимы в других браузерах.

Компания уверяет, что индекс Recall будет “приватным, локальным и безопасным”, не будет использоваться для обучения ИИ-моделей, а пользователь получит полный контроль. Тем не менее, сообщество скептически отнеслось к этим обещаниям. Функцию раскритиковали многие, от рядовых пользователей до Илона Маска, который пообещал сразу отключить ее.

Британское Управление комиссара по информации (ICO) уже запросило у Microsoft подробности о защите данных пользователей и гарантии того, что они не будут использованы самой компанией.

Эксперты отмечают, что даже если Microsoft действительно не получит доступ к данным Recall, продукт все равно несет серьезные риски. Поскольку модерация контента не предусмотрена, функция будет записывать абсолютно все, включая пароли в менеджерах паролей, номера банковских счетов, конфиденциальные документы. При совместном использовании компьютера нужно быть осторожнее с просматриваемыми фото и видео, так как они тоже будут сохранены.

Специалисты опасаются, что большинство пользователей не станут разбираться в настройках Recall, и вся информация окажется доступна для поиска любому, у кого есть доступ к компьютеру.

Еще хуже, если злоумышленники или вредоносное ПО скомпрометируют устройство, все данные Recall, даже защищенные BitLocker, будут расшифрованы и доступны хакерам. Атакующие смогут похитить базу данных Recall для последующего анализа и использовать ее, например, для вымогательства или взлома учетных записей жертв, если учетные данные попали в поле зрения функции.

Известный эксперт по информационной безопасности Кевин Бомонт выразил обеспокоенность тем, что Recall создаст обширные возможности для атак, сравнив ее с “кейлоггером, встроенным в Windows”. Он отметил, что исторически инфостилеры эволюционировали в сторону автоматической кражи локально хранящихся паролей браузеров, и теперь этот процесс может быть экстраполирован на похищение данных, записанных Recall.

Проблема не ограничивается инфостилерами. Вредоносное ПО, нацеленное на предприятия (например, TrickBot), иногда имеет модули для кражи баз данных Active Directory с целью поиска учетных данных. Ничто не мешает таким вредоносам применить аналогичный подход и начать красть базы данных Recall.

Выводы

Несмотря на потенциальные преимущества функции Recall для повышения продуктивности и удобства пользователей, анонс Microsoft вызвал серьезную обеспокоенность в отношении конфиденциальности и безопасности данных.

Хотя компания заверяет, что предприняла необходимые меры защиты и предоставила пользователям инструменты контроля, многие эксперты и обычные пользователи скептически относятся к этим обещаниям. Они опасаются, что Recall создаст новые векторы атак и возможности для злоумышленников, желающих похитить конфиденциальную информацию.

Особенно тревожным выглядит тот факт, что функция будет записывать абсолютно все действия пользователя без модерации контента, включая пароли, финансовые данные и конфиденциальные документы. Даже при локальном хранении и шифровании эти данные могут быть похищены в случае компрометации устройства.

Эксперты по информационной безопасности призывают Microsoft предоставить больше подробностей о защите данных Recall и дать пользователям четкие гарантии того, что информация не будет использоваться самой компанией или передаваться третьим лицам. Некоторые специалисты уже сравнили Recall со встроенным в Windows кейлоггером и предупредили о рисках, связанных с эволюцией вредоносного ПО.

В целом, хотя намерения Microsoft по улучшению пользовательского опыта с помощью ИИ-технологий могут быть благими, компании предстоит проделать большую работу, чтобы развеять опасения сообщества и доказать, что конфиденциальность и безопасность данных действительно являются приоритетом при разработке таких функций, как Recall. В противном случае, существует риск, что недоверие пользователей перевесит любые потенциальные преимущества нововведения.