Чем опасна новая ИИ-функция Microsoft и как отключить ИИ-поиск Recall в Windows 11 | Блог Касперского

Разбираемся, как работает Copilot+ Recall от Microsoft, как настроить или отключить Recall и что можно сделать для снижения рисков.

В мае 2024 года Microsoft представила новую функцию для Windows 11 под названием Recall. Она позволяет «вспоминать» все, что делал пользователь на компьютере за последние месяцы. Можно задавать в поисковой строке самые общие вопросы вроде «фото красного авто, которое мне присылали» или «какой корейский ресторан советовали» — и получать ответы в виде ссылок на приложение, сайт, документ в паре с картинкой-миниатюрой, на которой запечатлен… экран компьютера в момент, когда пользователь смотрел на предмет запроса!

Recall позволяет вспомнить все, что вы делали за компьютером в последние месяцы. Возможно, даже то, что вы предпочли бы не вспоминать. Источник

Чтобы реализовать чудо-поиск, новый сервис Microsoft будет делать скриншоты всего экрана каждые несколько секунд и сохранять их в папке на компьютере. Затем все эти изображения анализируются искусственным интеллектом в фоновом режиме, из скриншотов извлекается вся информация и помещается в базу данных, по которой при помощи ИИ-ассистента ведется умный поиск.

Несмотря на то что все операции проводятся локально, на компьютере пользователя, Recall сразу после анонса вызвал тревогу у многих специалистов по информационной безопасности — эта функция создает слишком много рисков. Начальная реализация Recall была практически не зашифрована и доступна любому пользователю компьютера. Под давлением ИБ-сообщества Microsoft объявила о внесении доработок в Recall еще до выпуска публичной версии, который отложили с 18 июня ориентировочно до конца осени 2024 года. Тем не менее даже с обещанными улучшениями функция остается неоднозначной.

Чем опасен Recall

Всю важную информацию можно украсть одним махом. Основной риск Recall в том, что все «чувствительные» данные — от медицинских диагнозов и запароленных переписок до банковских выписок и приватных фото — оказываются собраны в одном месте на компьютере. Если к компьютеру получит доступ посторонний или машина будет заражена вредоносным ПО, то достаточно скопировать содержимое одной-единственной папки, чтобы получить всю важную и актуальную информацию пользователя. И если скриншоты украсть немного сложнее из-за большого объема, то текстовую часть с распознанной информацией можно похитить за считаные секунды.

Самое любопытное — если злоумышленник все же сумеет незаметно выкачать базу со скриншотами, он сможет практически посекундно восстановить все, что пользователь делал за своим компьютером в последние несколько месяцев, — Recall может сохранять до 3 месяцев истории, если отведенное ему место (по умолчанию — 10% от объема накопителя, но не более 150 ГБ) не закончится раньше.

И если раньше инфостилеры в первую очередь крали логины и пароли, данные криптокошельков и куки из браузера, то вскоре к этому списку наверняка добавятся базы данных Recall. Озабоченные ИБ-специалисты уже создали демонстрационную утилиту, доказывающую простоту извлечения данных, в том числе дистанционно.

Надежность шифрования данных под вопросом. В начальной версии Recall скриншоты и база данных с распознанными текстами хранились в открытом виде. ИБ-специалисты продемонстрировали, как обойти ограничения ОС и получить доступ к базам Recall и скриншотам любого пользователя на компьютере. Чтобы решить эту проблему, Microsoft обещает дополнительно шифровать сами базы данных и расшифровывать их «на лету». Но реализацию этой функции пока никто не видел, и есть большие шансы, что расшифровка на локальном компьютере будет несложной. Как и в случае с полнодисковым шифрованием Bitlocker, подобное шифрование может защитить от атак класса «злая горничная», но никак не поможет тем, кто оставил компьютер незаблокированным, отправил его в режим сна или допустил заражение инфостилером.

Плохо контролируемая копия конфиденциальных данных. Microsoft указывает, что в базе данных Recall будут сохранены пароли, финансовые и другие чувствительные данные, которые выводятся на экран. Если пользователь не поставил Recall «на паузу», то исключаются из базы только приватные окна (в MS Edge, Chrome, Opera или Firefox) и данные, защищенные авторским правом при помощи DRM (например, фильмы Netflix). Резервные коды восстановления для онлайн-аккаунта? Исчезающие сообщения в мессенджере? Письмо, которое вы сочли за лучшее удалить? Все это останется в базе данных Recall, где удалить подобные фрагменты данных точечно не получится, — надо будет очищать всю информацию за большой период времени. А иначе любому, кто сел за разблокированный компьютер, окажутся видны ваши конфиденциальные данные, которые банки, поликлиники и онлайн-сервисы прячут за логинами-паролями и двухфакторной аутентификацией. Чтобы снизить остроту проблемы, Microsoft обещает, что для доступа к приложению Recall на локальном компьютере пользователю надо будет дополнительно аутентифицироваться.

Резервные коды восстановления доступа тоже окажутся в базе Recall, разрушая всю модель безопасности многофакторной аутентификации

Риски на службе и дома. Полная и доступная для легкого поиска информация обо всем, что делается на компьютере, может усложнить положение людей, страдающих от агрессивного руководства на работе, излишне любопытных домочадцев, ревнивых «вторых половинок» и так далее. На основе данных Recall наверняка попытаются отслеживать рабочую эффективность, супружескую верность и многое другое.

Режим по умолчанию. Изначально предполагалось, что Recall будет включен по умолчанию, но под давлением общественности Microsoft пообещала сделать наоборот — при самостоятельной установке Windows у пользователя будут спрашивать, хочет ли он включить Recall, отключенный по умолчанию. А вот тем, кто получил компьютер с Windows 11 уже настроенным — например, на работе, — придется проверять наличие и режим работы Recall самостоятельно.

Где есть и где будет Recall

В настоящее время Microsoft заявляет, что функция Recall будет доступна только на компьютерах Copilot+, оснащенных специальным «ИИ-чипом» NPU и Windows 11. На практике специалисты успешно запускают функцию Recall и на других компьютерах — для этого лучше подходят машины с ARM-процессорами, но, пусть и с некоторыми сложностями, эта функция активируется и на компьютерах с архитектурой x86, и даже на виртуальных машинах в Azure. Ясно, что никакой уникальной аппаратной начинки для работы Recall не требуется, а значит, через некоторое время эту функцию предложат и для всех остальных достаточно мощных Windows-компьютеров. Учитывая же, что Microsoft в последние годы «предлагает» функции путем их автоматической активации на компьютерах пользователей, обзавестись нежеланным ИИ-помощником можно почти незаметно для себя.

Как проверить наличие Recall

На компьютерах с Windows 10 и более ранними версиями Recall нет и быть не может. На Windows 11 проверить наличие функции можно, набрав «Recall» в поисковой строке меню «Пуск». Если одноименное приложение появилось в поисковой выдаче, значит, оно установлено и требует настройки или отключения.

Как снизить риски, провоцируемые Recall

Некоторым категориям пользователей стоит отключить Recall целиком. Это те, кто:

• часто хранит «чувствительную» информацию на компьютере;
• обязан по закону строго охранять рабочие данные;
• делит компьютер с другими людьми;
• страдает от агрессивного мониторинга со стороны руководства на работе или домочадцев;
• не считает ИИ-поиск полезным.

К счастью, делается это несложно: нужно открыть настройки и в подразделе Privacy & security -> Recall & snapshots отключить опцию Save snapshots, а затем нажать кнопку Delete all, чтобы удалить ранее сделанные снимки.

К счастью, Recall легко полностью отключить или настроить «под себя». Источник

Если же полностью отключать Recall не хочется, нужно его правильно настроить. В первую очередь нужно внести в него списки приложений и сайтов, для которых эта функция работать не должна. Мы рекомендуем добавить в исключения Recall:

• все сайты, на которых вы просматриваете важную личную информацию: банки, сервисы государственных услуг, ваши страховые и медицинские организации;
• приложения или сайты менеджера паролей;
• сайты и приложения с конфиденциальной рабочей информацией;
• сайты и приложения, связанные с криптовалютой, если вы используете крипту;
• приложения мессенджеров, если вы хотя бы иногда ведете в них конфиденциальные разговоры.

Если вы решите оставить Recall включенным, обязательно настройте список исключений. Источник

Обязательно убедитесь, что на компьютере установлена полноценная защита от киберугроз, ведь специализированный инфостилер, попавший на компьютер с включенным Recall, сможет украсть всю историю ваших действий за несколько месяцев до заражения. Можно предположить и появление вирусов, незаметно для пользователей включающих Recall и использующих его как умную распознавалку всех текстов на вашем экране, — сумели же злоумышленники пристроить к делу штатную защитную функцию Bitlocker, использовав ее для полнодискового шифрования всей информации на компьютере с последующим требованием выкупа за расшифровку. Мы рекомендуем Kaspersky Premium для максимальной защиты от вредоносного ПО.

Помимо этого:

• Включите полнодисковое шифрование Bitlocker.
• Защитите свою учетную запись сложным паролем и биометрическим доступом.
• Настройте и используйте блокировку экрана, когда вы отходите от компьютера.
• Для других пользователей компьютера, если они есть, заведите отдельные учетные записи или используйте гостевую.
• Подпишитесь на наш блог или Telegram-канал, чтобы первыми узнавать о новых угрозах.

25.06.2024