Аналитики Gartner рекомендуют блокировать ИИ-браузеры

Аналитическая компания Gartner призвала бизнес отказаться от использования ИИ-браузеров. Эксперты полагают, что новые инструменты с агентными функциями создают слишком много рисков — от утечек данных до онлайн-заказов ненужных товаров.

В этом месяце компания Gartner выпустила отчет под названием «Кибербезопасность пока должна заблокировать ИИ-браузеры». В этом документе вице-президент по исследованиям Деннис Сю (Dennis Xu), старший директор-аналитик Евгений Миролюбов (Evgeny Mirolyubov) и аналитик Джон Уоттс (John Watts) отмечают, что «настройки ИИ-браузеров по умолчанию ставят удобство пользователя выше безопасности».

Исследователи отнесли к ИИ-браузерам инструменты вроде Perplexity Comet и ChatGPT Atlas, которые обладают двумя ключевыми элементами:

• боковой ИИ-панелью, которая позволяет суммировать, искать, переводить и взаимодействовать с веб-контентом через ИИ-сервисы;
• агентными функциями, позволяющими браузеру автономно перемещаться по сайтам, взаимодействовать с ними и выполнять задачи (особенно в рамках аутентифицированных сессий).

Специалисты предупреждают, что такие боковые панели несут серьезную угрозу: конфиденциальные данные (активный веб-контент, история браузера и открытые вкладки) часто отправляются в облачный бэкенд ИИ-сервиса, что повышает риск утечки информации. Эту проблему можно решить только с помощью жестких правил безопасности и приватности, и централизованного управления ими.

В документе предлагается оценить работу бэкенда ИИ-сервисов, стоящих за браузером, чтобы понять, приемлем ли их уровень безопасности для организации.

Однако даже если организация решает, что облачный ИИ-сервис можно использовать, Gartner все равно рекомендует предупредить пользователей о том, что любая информация, которую они видят в браузере, потенциально может быть передана на бэкенд. Поэтому не стоит работать с конфиденциальными данными в открытых вкладках, пока активен ИИ-сайдбар.

Если же бэкенд будет признан небезопасным, в Gartner советуют просто блокировать установку и использование ИИ-браузеров для всех сотрудников.

Кроме того, аналитики особенно опасаются агентных возможностей ИИ-браузеров. По их словам, проблемами могут стать: действия скомпрометированных агентов, вызванные непрямыми промпт-инжектами; ошибочные действия, основанные на неверных рассуждениях агента; возможная потеря и утечка учетных данных, если ИИ-браузер обманом вынудят самостоятельно перейти на фишинговый сайт.

Также авторы отчета считают, что сотрудники «могут поддаться соблазну использовать ИИ-браузеры для автоматизации определенных задач, которые обязательны, повторяются и не особенно интересны». В частности, эксперты представляют сценарий, в котором работник может заставить ИИ-браузер пройти обязательный тренинг по кибербезопасности вместо него.

Еще один потенциально опасный сценарий связан с внутренними системами закупок, где LLM могут допускать ошибки, что повлечет за собой ненужные траты для организаций.

«Форма может быть заполнена неправильно, и в итоге будет заказан не тот канцелярский товар, забронированы билеты не на тот рейс и так далее», — пишут авторы.

Предполагается, что в таких случаях могут помочь некоторые меры защиты (например, запрет на доступ к электронной почте для ИИ-агентов), что позволит ограничить возможности ИИ-агентов. Также можно настроить ИИ-браузеры таким образом, чтобы они не сохраняли данные.

В целом аналитики заключают, что пока ИИ-браузеры слишком опасны для использования без предварительной оценки рисков. И даже после такого анализа, вероятно, придется составить длинный список запрещенных сценариев использования, а затем следить за тем, чтобы эти правила соблюдались.