Где ИИ подвёл инженеров: провалы и псевдо-ИИ
Истории успеха ИИ собирают лайки, но инженеру полезнее обратная сторона: где ИИ применили — и он подвёл, и где за «ИИ» выдают то, что им не является. Разбираем и то и другое на проверенных примерах. Это не про «ИИ не работает», а про то, как не обжечься и не купиться на ярлык.
−19%
скорость опытных разработчиков с ИИ в эксперименте METR
4 из 5
задач — менее безопасный код с ИИ-ассистентом (Stanford)
$304 млн
списание Zillow за один квартал из-за ошибки модели
Когда ИИ применили — и он подвёл
Парадокс переоценки
Разработчики стали медленнее — но были уверены в обратном
В контролируемом эксперименте METR (июль 2025) опытные разработчики с ИИ-ассистентом выполняли задачи на 19% медленнее, чем без него. Самое тревожное — они этого не заметили: ожидали ускорения на 24%, а после работы верили, что ИИ ускорил их примерно на 20%. Разрыв между ощущением (+20%) и фактом (−19%) — около 40 процентных пунктов.
Качество вниз, уверенность вверх
Код с ИИ-помощником вышел менее безопасным
Рецензируемое исследование Стэнфорда (CCS '23): участники с ИИ-ассистентом написали значимо менее безопасный код (в 4 задачах из 5) — и при этом чаще считали его безопасным. Тот же механизм: инструмент снижает качество и одновременно повышает самооценку результата.
Честная оговорка: модель в эксперименте (2022) уже устарела, выборка небольшая — 47 студентов. Эффект задокументирован в тех условиях; на современных моделях он требует отдельной проверки, но природа риска — ложная уверенность — никуда не делась.
Цена ошибки модели
Zillow: алгоритм оценки ошибся на сотни миллионов
Алгоритм Zillow для оценки и скупки жилья систематически переоценивал дома. Итог (2021): списание около $304 млн за квартал, закрытие всего направления, сокращение ~1 600 человек (25% штата). Урок для любой ML-системы в производстве: на данных, не похожих на обучающие, модель ошибается молча и дорого.
Честная оговорка: это классическая ML-регрессия, не чат-бот, и провал — не «галлюцинация», а выход за пределы обучающих данных. Конкуренты в той же нише рынок пережили.
Общий механизм
У METR и Stanford ИИ не просто ошибался — он повышал уверенность при падении качества. У Zillow механизм другой: модель молча вышла за пределы данных, а у компании не было страховки. Вывод один — проверку результата нужно встраивать в процесс по умолчанию, а не полагаться на ощущение, что «всё хорошо».
Когда «ИИ» оказался не ИИ
Это были провалы настоящего ИИ. Но есть и обратная ловушка: половина «прорывов ИИ в инженерии» из новостей — переклеенный ярлык. Два частых примера, где в первоисточнике никакого ИИ нет.
01
Титановый тормозной суппорт Bugatti
Часто подаётся как «деталь, спроектированная ИИ». В пресс-релизе самого производителя слова «искусственный интеллект», «генеративный дизайн», «оптимизация топологии» не встречаются ни разу. Это достижение аддитивного производства (3D-печать по титану) и материаловедения — но не ИИ.
02
Автономные поезда Rio Tinto
«Беспилотная железная дорога на ИИ» — на деле система автоматического управления поездом на жёстких алгоритмах, без нейросетей и обучения. Впечатляющая инженерия автоматизации — но называть это искусственным интеллектом некорректно.
Как отличить за минуту
Откройте первоисточник (пресс-релиз, статью производителя) и поищите слова «обучение», «нейросеть», «модель обучали на данных». Если их нет, а есть только «автоматизация», «3D-печать», «робот по программе» — перед вами не ИИ, а классическая инженерия под модным ярлыком. Это не делает результат хуже, но к ИИ он отношения не имеет.
По темеПочему ИИ уверенно ошибается — и как это ловить →
Ещё для инженеров
ИИ для инженеров: где работает и как отличить реальное от хайпа → — большой разбор с кейсами и чеклистом.
Суррогатные модели: симуляции в тысячи раз быстрее → — где ИИ ускоряет расчёты по-настоящему.
23.06.2026
Смотрите также
ТехнологииБизнес
Искусственный интеллект в B2B-продажах
Как AI меняет B2B-продажи? Разбираем технологии, автоматизацию процессов и персонализированный подход к клиентам.
ТехнологииНавыки
Интеграция AI в IoT устройства
Исследуйте, как интеграция AI с IoT устройствами открывает новые возможности для автоматизации, оптимизации процессов и повышения комфорта в умных домах и предприятиях.
Навыки
Сколько стоит запустить курс
Глядя на многочисленные онлайн-курсы, считаете, что сможете сделать свой ничуть не хуже? Тогда пора действовать, пока вашу идею не реализовал кто-то другой. Давайте осветим один из главных вопросов – сколько стоит все это удовольствие, какие статьи расходов есть, и можно ли сэкономить.
ТехнологииНавыкиКарьера
AI-оценка soft skills