Gartner предупреждает о рисках ИИ-браузеров для компаний

Gartner предупреждает об угрозах из-за использования ИИ-браузеров, таких как ChatGPT Atlas. Рекомендуется ограничить их применение для защиты конфиденциальности и кибербезопасности.

Число просмотров: 4

Основные угрозы

Основные угрозы связаны с двумя ключевыми функциями таких браузеров:

ИИ-сайдбар, который по умолчанию отправляет историю просмотров и данные открытых вкладок пользователям в облачные ИИ-сервисы. Это создает опасность утечек конфиденциальных данных и учетных записей, особенно при попадании агента на фишинговый ресурс.
Возможность автономного взаимодействия ИИ-агента с веб-сайтами: автозаполнение форм, подтверждение заказов, действия в авторизованных сессиях, что увеличивает риск совершения ошибочных действий.

Дополнительно аналитики отмечают менее очевидные проблемы. Сотрудники стали использовать ИИ-браузеры для автоматического прохождения тренингов по кибербезопасности, что снижает уровень корпоративной защиты. Неверное использование ИИ в закупочных и других внутренних системах может привести к финансовым потерям и нарушению бизнес-процессов.

Технические уязвимости

Уязвимости тоже связаны с архитектурой агентов ИИ. Существует риск «непрямой инъекции промпта», когда вредоносные инструкции скрыты в контенте страниц или писем и незаметно перенаправляют агента на выполнение нежелательных действий. Это фундаментальная проблема, которая показывает, что безопасность идет не в ногу с развитием ИИ-браузеров.

Меры защиты от Gartner

Как меры защиты Gartner рекомендует:

Провести тщательную оценку безопасности облачного ИИ-сервиса, через который работает браузер.
Если риски считаются неприемлемыми — запретить установку и использование таких браузеров сотрудниками.
При одобрении использования обучать сотрудников, что любая информация, открываемая через ИИ-сайдбар, может быть отправлена в облако.
Строго запретить работу с конфиденциальными и критичными данными через агентские ИИ-инструменты.
Контролировать доступ ИИ-агентов к внутренним системам и ограничивать их права.

Дополнительно специалисты по ИБ советуют встраивать анонимизацию данных в корпоративные ИИ-решения, чтобы минимизировать попадание секретной информации в внешние сервисы. Также актуальна контейнеризация и использование закрытых внутренних систем ИИ вместо внешних облачных сервисов.

Практические последствия

Практические последствия отсутствия контроля уже проявляются. Исследования показывают, что такие ИИ-браузеры плохо фильтруют фишинговые ресурсы, что приводит к новым волнам атак. Появляются новые виды угроз, связанные с использованием ИИ для обхода традиционных средств защиты.

Для компаний это призыв к осторожности и внедрению комплексных политик безопасности по работе с ИИ. Используйте только проверенные инструменты, внедряйте обучение персонала с акцентом на риски ИИ, создавайте внутренние безопасные среды для автоматизации для бизнеса и постоянно контролируйте интеграцию ИИ в бизнес-процессы.

Так вы сможете воспользоваться достоинствами современных ИИ-браузеров, не подвергая компанию высоким киберрискам. Следите за новыми рекомендациями экспертов и адаптируйте практики безопасности под реалии быстро меняющегося цифрового мира.