ИИ-агенты: возможности и ограничения современных технологий

Изучите возможности и ограничения ИИ-агентов. Узнайте, как современные технологии меняют мир, и какие вызовы стоят перед ними.

Число просмотров: 4

Кто и где это сказал

Андрей Карпати высказался на мероприятии, организованном Sequoia Capital. В выступлении он использовал сравнение современных ИИ‑агентов со стажёрами и дал однозначную характеристику их кода. Эти оценки отражают взгляд эксперта, который интересуется эстетикой кода и практической стороны разработки — отсюда и упоминание контроля за «эстетикой, суждением, вкусом и общим ходом работы».

Основная мысль: работает, но не годится для полного доверия

Фраза «ИИ‑код работает, но он отвратительный» важна тем, что разделяет функциональную работоспособность и качество. По сути, Карпати говорит: современные агенты способны сгенерировать рабочий фрагмент — он может проходить тесты, запускаться и выполнять задачу. Но при этом качество реализации оставляет желать лучшего: код содержит лишние элементы, с большой вероятностью ломается при изменениях и плохо подходит для долговременной поддержки.

Раздутый, хрупкий и отвратительный — что это значит на практике

Раздутый. Генерируемый код часто содержит лишние строки, повторения, неоптимальные конструкции и неэкономичное использование зависимостей. В результате растут размер проекта, время сборки и поверхность для ошибок.
Хрупкий. Такой код может работать в конкретных условиях, но плохо реагирует на изменения требований, нагрузку или рефакторинг. Небольшие изменения приводят к регрессиям, потому что логика построена без учёта архитектурной устойчивости.
Отвратительный. Под этим Карпати, по смыслу его высказывания, понимает сочетание плохой структуры, нечитабельности, отсутствия вкуса в решениях и неприятия стандартов качества, принятых в команде.

Почему разработчик остаётся ключевым звеном

Согласно высказанной позиции, ИИ‑агенты не заменяют человеческое суждение. Разработчик должен:

Контролировать эстетику кода: читать и исправлять стиль, структуру, паттерны;
Принимать архитектурные решения и думать о долгосрочных эффектах;
Задавать направление разработки и критерии качества;
Обеспечивать соответствие кода бизнес‑требованиям и стандартам безопасности.

Иначе говоря, агент может помочь с рутиной, но не способен нести ответственность за дизайн, вкус и надёжность решения в целом.

Практические рекомендации для работы с ИИ‑агентами

Если вы уже используете или планируете использовать ИИ‑агентов в разработке, учтите следующие шаги:

Относитесь к сгенерированному коду как к черновику. Не принимайте его автоматически в основную ветку проекта без проверки.
Внедрите обязательный процесс ревью. Требуйте, чтобы человек проверял не только работоспособность, но и читаемость, архитектуру и тесты.
Настройте правила стиля и автоматические линтеры. Прогоняйте результаты агента через те же инструменты качества, что и человеческий код.
Используйте агента для задач низкой ответственности: генерация шаблонов, написание простых утилит, создание тестовых данных, помощь с документацией.
Не поручайте агенту принимать архитектурные решения. Сформулируйте чёткие ограничения: какие библиотеки допустимы, какие паттерны использовать, какая логика не должна генерироваться автоматически.
Пишите и требуйте покрытие тестами. Проверяйте не только позитивные сценарии, но и граничные случаи, исключения и устойчивость к изменениям.
Планируйте регулярный рефакторинг. Генерируемый код часто требует упрощения и удаления избыточности.
Обучайте команду работе с агентами: как формулировать запросы, как замечать типичные ошибки и как интегрировать результаты в процесс.

Как это касается менеджеров и заказчиков

Оцените риски при планировании сроков: внедрение ИИ‑агентов не обязательно снизит время на релиз, если учесть время на проверку и рефакторинг.
Оставьте за людьми решения, связанные с архитектурой, безопасностью и критичностью системы.
Контролируйте метрики качества: технический долг, количество регрессий, время на поддержку кода — они могут вырасти при слепом доверии агентам.

Какие вопросы стоит себе задать

Какие части кода можно безболезненно генерировать, а какие требуют человеческого контроля?
Кто в команде принимает окончательные архитектурные решения?
Какие правила стиля и качества нужно усилить, чтобы AI‑вклад был безопасным?
Как измерить, что использование агентов действительно улучшает производительность и не увеличивает долг?

Возможные последствия и значение для читателя

Если не выработать дисциплину, можно столкнуться с накоплением «чёрного кода»: множество сработавших, но плохо устроенных фрагментов, которые мешают развитию продукта. Для отдельных разработчиков это означает повышенный объём ревью и исправлений; для организаций — потенциальное увеличение затрат на поддержку и снижение скорости изменений. С другой стороны, при разумном подходе агенты действительно могут облегчить рутину и освободить время для творческих и архитектурных задач.

Коротко о том, что делать прямо сейчас

Оцени своё текущее использование ИИ‑инструментов: где они уже помогают, где вредят.
Установи обязательный цикл проверки с участием человека для всех значимых изменений.
Введи автоматические проверки качества и покрытие тестами для всего кода, включая сгенерированный.
Отдели задачи для агентов от задач для людей: отдавай агенту авто‑технические и повседневные задания, оставляй людям стратегию и тонкие архитектурные решения.

Итог

Высказывание Карпати — напоминание: ИИ‑агенты уже полезны, но пока не заменят человеческого суждения и вкуса в программировании. Относитесь к результатам генерации как к сырью, требующему огранки: проверяйте, упрощайте и контролируйте. Сделайте так, чтобы ИИ работал на вас, а не создавал дополнительную работу и технический долг.