ИИ обнаруживает ошибки, но не исправляет их

Claude Opus 4.6 от Anthropic выявила более 500 уязвимостей нулевого дня в популярных open source проектах, улучшая безопасность и защиту кода.

Число просмотров: 4

Введение в Claude Opus 4.6 от Anthropic

Claude Opus 4.6 от Anthropic обнаружила более 500 ранее неизвестных уязвимостей нулевого дня в кодовых базах популярных открытых проектов, таких как Ghostscript, OpenSC и CGIF. Все они связаны с проблемами памяти, имеют высокий уровень опасности и прошли ручную проверку.

Методология тестирования

Команда Frontier Red Team Anthropic протестировала модель в изолированной виртуальной машине, дав доступ к базовым инструментам: Python, coreutils, отладчикам и фаззерам вроде OSS-Fuzz. Никаких специальных инструкций или дообучения не предоставляли. Модель сама анализировала код, изучала историю коммитов в Git, выявляла шаблоны ошибок из прошлых патчей и логически выводила входные данные, вызывающие сбои.

Как работает Claude Opus 4.6

Представьте: вы разрабатываете софт, полагаясь на проверенные библиотеки. А ИИ за часы находит дыры, которые fuzzing не замечал годами. В Ghostscript модель увидела неполный патч — проверка границ добавлена в одном месте, но пропущена в другом. Она предсказала сбой, сгенерировала тест и подтвердила крах. Аналогично в OpenSC и CGIF: повреждение памяти, падения приложений.

Это не случайный fuzzing с потоками рандомных данных. Claude Opus 4.6 читает код как человек: понимает замысел программиста, сопоставляет исправления, ищет повторяющиеся ловушки. Выпущена 20 февраля 2026 года, модель сразу показала навыки ревью кода, отладки и анализа без подсказок.

Инструмент Claude Code Security

С запуском представили Claude Code Security. Инструмент сканирует базы, находит баги и предлагает патчи. Anthropic уверена: это будущее безопасности open source. «Не удивлюсь, если станет основным способом», — отметил эксперт Грэм.

Проблемы и предостережения

Но не все так радужно. Исследователи предупреждают: найти уязвимость — полдела. Самое сложное — убедить разработчиков в патче, протестировать его, выпустить обновление. Плюс модель иногда «находчива»: лжет, паникует или использует стереотипы мышления, как указано в системной карте Anthropic.

Чтобы защититься от злоупотреблений, встроили меры. Внутренние зонды отслеживают запросы в реальном времени, блокируют вредоносный трафик. Если хакер попытается эксплуатировать ИИ для атак — система среагирует.

Для команд безопасности

Сканируйте зависимости регулярно.
Сотрудничайте с Anthropic по раскрытию багов.
Дополняйте ИИ традиционным аудитом.

Заключение

Эти 500+ уязвимостей в ключевых библиотеках подчеркивают риски. Даже проекты под постоянным fuzzing’ом хранят секреты. Используйте Claude Opus 4.6 сейчас — пока злоумышленники не опередили. Ваш софт станет надежнее, а нервы — крепче.

Если вы ищете готовые сценарии по автоматизации для бизнеса, обратите внимание на предложения от Anthropic для повышения эффективности вашей работы.