Искусственный интеллект и риски утечек данных в браузерах

Число просмотров: 11

Угрозы от использования ИИ-браузеров в бизнесе

Аналитики Gartner рекомендовали организациям срочно контролировать и часто полностью запрещать использование сотрудниками так называемых «агентских ИИ-браузеров» — таких, как Comet от Perplexity и ChatGPT Atlas от OpenAI — из-за значительных киберрисков, которые эти инструменты несут для корпоративной безопасности.

Главная угроза связана с функциями этих ИИ-браузеров, которые по умолчанию ставят удобство работы пользователя выше безопасности. Особенно опасны две ключевые возможности: «ИИ-сайдбар», который автоматически отправляет историю просмотров и данные из открытых вкладок в облако ИИ-сервиса, а также способность подобных браузеров автономно взаимодействовать с веб-ресурсами — заполнять формы, выполнять действия в авторизованных сессиях пользователя. Это создает реальный риск утечки конфиденциальной информации и взлома учетных данных, особенно если браузер перенаправят на фишинговый сайт. Кроме того, существуют сценарии, когда ИИ-браузеры могут автоматически выполнять внутренние бизнес-процессы — например, проходить обязательные курсы безопасности за сотрудников или совершать закупки на основе ошибочной информации, что несёт финансовые и репутационные потери компании.

Одной из подчеркнутых проблем является уязвимость к «непрямой инъекции промпта». Это когда вредоносные инструкции внедряются не напрямую пользователем, а скрываются в содержимом веб-страниц или электронных сообщений, обманом заставляя ИИ выполнять нежелательные команды. Данные атаки практически невозможно полностью предотвратить, так как ИИ-агенты обязаны доверять обрабатываемому контенту. Это фундаментальная архитектурная проблема, которая пока не решена эффективными методами защиты, что признают даже разработчики этих браузеров.

Корпоративные риски усугубляются тем, что облачные сервисы, на которых работают эти браузеры, могут не обеспечивать достаточный уровень безопасности. Отправка внутренних данных на удаленные серверы без полноценного контроля ведёт к утечкам и снижает доверие к новой технологии. Без строгих процедур оценки и обучения сотрудников, предупреждающих, что любые данные, введённые в браузер, могут быть переданы в облако, использование «агентских ИИ-браузеров» в бизнесе крайне опасно.

Чтобы минимизировать угрозы, Gartner советует организациям тщательно анализировать безопасность используемых ИИ-сервисов. Если риски признаны неприемлемыми, следует полностью запретить установку и применение этих браузеров. При принятии решения об использовании потребуется обязательное обучение персонала, запрет на обработку конфиденциальной информации через ИИ-сайдбар, а также использование внутренних, корпоративных ИИ-систем с полноценным контролем данных и анонимизацией информации.

Также важно учитывать, что гонка за развитием агентных ИИ-систем происходит быстрее, чем создаются адекватные инструменты кибербезопасности для них. По этой причине нельзя недооценивать потенциальные атаки, направленные на перегрузку систем, злоупотребление API и подключение ИИ к внутренним сетям без контроля. Все это обещает серьезные сложности в ближайшие годы для бизнеса и требует от компаний ответственности и готовности к максимально тщательному управлению рисками, связанными с ИИ.

Практические рекомендации

В практическом плане:

Не разрешайте сотрудникам устанавливать и использовать AI-браузеры вне официального IT-контроля.
Проводите регулярные тренинги, объясняя потенциальные угрозы и правила безопасного взаимодействия с ИИ.
Настраивайте ограничение доступа к конфиденциальным данным и запрещайте их передачу в облачные сервисы без шифрования и контроля.
Рассмотрите внедрение внутренних агентских ИИ-систем с полной анонимизацией данных и контролем доступа.
Следите за обновлениями угроз и уязвимостей от основных поставщиков программного обеспечения и безопасности.

Игнорирование этих рекомендаций может привести не только к утечкам и финансовым потерям, но и к массовым кибератакам с использованием уязвимостей агентных ИИ-браузеров, как это уже показали независимые тесты и исследования по безопасности.

Понимайте: использование ИИ в бизнесе даёт мощные возможности, но без грамотного контроля агенты ИИ могут стать входными воротами для злоумышленников. Время действовать строго и системно, чтобы не превратить инновацию в серьёзную угрозу для компании.

Также рекомендуем рассмотреть готовые сценарии по автоматизации для n8n, которые помогут упростить внедрение ИИ в бизнес-процессы с должным контролем и безопасностью.