Где ИИ подвёл инженеров: провалы и псевдо-ИИ

Корпоративное обучениеОбучите команду работать с ИИПрограммы под ваш запрос — от основ до внедрения.Подробнее →

Истории успеха ИИ собирают лайки, но инженеру полезнее обратная сторона: где ИИ применили — и он подвёл, и где за «ИИ» выдают то, что им не является. Разбираем и то и другое — на проверенных примерах. Это не про «ИИ не работает», а про то, как не обжечься и не купиться на ярлык.

Когда ИИ применили — и он подвёл

−19%Разработчики стали медленнее — но были уверены в обратном. В контролируемом эксперименте METR (2025) опытные разработчики с ИИ-ассистентом выполняли задачи на 19% медленнее. Ожидали ускорения на 24% и после работы верили, что ИИ ускорил их на 20%. Разрыв между ощущением и фактом — около 40 процентных пунктов.

4 из 5Код с ИИ-помощником вышел менее безопасным. Рецензируемое исследование Стэнфорда (CCS '23): участники с ИИ-ассистентом написали значимо менее безопасный код в 4 задачах из 5 — и чаще считали его безопасным. Модель (2022) устарела, выборка небольшая (47 студентов), но эффект ложной уверенности воспроизводится.

$304 млнZillow: модель оценки ошиблась на сотни миллионов. Алгоритм для оценки и скупки жилья систематически переоценивал дома. Итог (2021): списание около $304 млн за квартал, закрытие направления, сокращение ~1 600 человек (25% штата). Это классическая ML-регрессия, не чат-бот; провал — выход за пределы обучающих данных.

Во всех трёх случаях ИИ не просто ошибался. У METR и Stanford он внушал ложную уверенность; у Zillow — молча вышел за пределы данных. Защита одна: встроить проверку результата в процесс по умолчанию, а не «довериться и проверить выборочно».

Telegram-каналРЕФОРУМ в TelegramКоротко о будущем и технологиях — в вашей ленте.Подписаться →

Когда «ИИ» оказался не ИИ

Половина «прорывов ИИ в инженерии» в новостях — это переклеенный ярлык. Два частых примера, где в первоисточнике никакого ИИ нет:

Bugatti · титановый суппорт

Часто подаётся как «деталь, спроектированная ИИ». В пресс-релизе производителя слова «искусственный интеллект», «генеративный дизайн» не встречаются ни разу. Это достижение аддитивного производства (3D-печать по титану) и материаловедения — но не ИИ.

Rio Tinto · автономные поезда

«Беспилотная железная дорога на ИИ» — на деле система автоматического управления поездом на жёстких алгоритмах, без нейросетей и обучения. Впечатляющая инженерия автоматизации — но называть это ИИ некорректно.

Как отличить за минуту

Откройте первоисточник и поищите слова «обучение», «нейросеть», «модель обучали на данных». Если их нет, а есть только «автоматизация», «3D-печать», «робот по программе» — перед вами не ИИ, а классическая инженерия под модным ярлыком. Это не делает результат хуже — но и к ИИ он отношения не имеет.

По темеПочему ИИ уверенно ошибается — и как это ловить →

Ещё для инженеров

ИИ для инженеров: где работает и как отличить реальное от хайпа → — большой разбор с кейсами и чеклистом.

Суррогатные модели: симуляции в тысячи раз быстрее → — где ИИ ускоряет расчёты по-настоящему.

FutureHub · корпоративное обучение

Научить команду отличать рабочий ИИ от хайпа и ложной уверенности — на примерах из вашей отрасли. Программы FutureHub для технических команд.

Смотреть программы →

23.06.2026

Корпоративное обучениеРазвиваем команды под задачи бизнесаОт нейросетей и новых навыков до построения отделов — программы под ваш запрос.Подробнее →

Смотрите также