Ошибки генеративного ИИ могут обойтись в десятки миллионов рублей
Стоит ли бизнесу обучать собственные модели ИИ или можно пользоваться универсальными моделями
20.11.2025
| Ведомости
Использование универсальных языковых моделей искусственного интеллекта (ИИ) в бизнесе может не только ускорять автоматизацию, но и приводить к прямым финансовым потерям в десятки миллионов рублей ежегодно. По оценкам экспертов, только из-за ошибочной калибровки и неверной интерпретации данных компании теряют 50–80 млн руб. в год. Точность универсальных моделей (LLM), по ее словам, в прикладных задачах оказывается на 2–4 п. п. ниже, чем у предметно-специфических (DSLM), а вероятность деградации ответа достигает 30%.
Даже при небольшом снижении точности итоговая погрешность накапливается и становится статистически значимой, особенно в процессах, связанных с финансовыми, юридическими или операционными решениями.
DSLM же обучается на истории побед, выделяет конкретные примеры, учитывает отраслевые критерии, за счет чего снижает вероятность ложного успеха в 1,5–2 раза по сравнению с LLM. Помимо этого DSLM чаще корректно интерпретирует нормативную базу и отфильтровывает ложную. За счет этого можно увеличить прибыль, а еще сократить издержки и операционные расходы. В совокупности использование DSLM – например, в госзакупках – может окупиться уже от сумм свыше 1–2 млрд руб.
В исследовании Высшей школы бизнеса НИУ ВШЭ «Технологические тренды 2026» аналитики пришли к тем же выводам. Из исследования следует, что архитектура LLM ориентирована на усредненные языковые паттерны, а не на конкретные бизнес-контексты, из-за чего вероятность ложных выводов растет пропорционально сложности предметной области, а финансовые потери могут возникать даже при точности выше 90%, если ошибки приходятся на решения с денежным весом.
Потерял ли кто-то деньги
В мире при этом уже были случаи, когда бизнес терял деньги из-за использования универсального ИИ, напоминает директор по продуктам Servicepipe Михаил Хлебунов. Например, в июле 2025 г. ИИ-ассистент Replit самостоятельно удалил рабочую базу данных стартапа SaaStr, проигнорировав команду «заморозки кода». Как итог, основатель SaaStr Джейсон Лемкин потерял данные о 1206 руководителях и 1196 компаниях.
Еще один пример – крупнейшая международная консалтинговая и аудиторская компания Deloitte потеряла $440 000 из-за галлюцинаций в отчете. Сам отчет компания готовила для австралийского правительства – департамента занятости и трудовых отношений, об этом портал «Хабр» написал в октябре 2025 г. Целью отчета было проанализировать IT-систему для автоматизации штрафов получателям социальных пособий.
Компания пользовалась GPT-4o от американской OpenAI. Как итог, в отчете оказались три несуществующих академических ссылки и выдуманная цитата решения федерального суда Австралии. В обновленной версии в разделе методологии Deloitte признала использование «генеративной ИИ большой языковой модели (Azure OpenAI GPT-4o), лицензированной DEWR и размещенной на Azure-инфраструктуре департамента». Как итог, компания обязалась вернуть средства по последнему контракту.
Как и в случае с любым другим проектом, финансовые убытки от ИИ можно оценить как совокупность всех инвестиций в проект, включая затраты на инфраструктуру, подбор и оплату персонала, и вычесть эту сумму из полученной прибыли, считают эксперты. Отдельно имеет смысл рассчитывать и возможную упущенную выгоду, если бы эти средства были направлены на другие направления, а репутационные потери оценить значительно сложнее.
ИИ в деньгах
Рынок ИИ-решений в России Kept в октябре 2025 г. оценила в размере около 300 млрд руб. Это в полтора раза больше по сравнению с предыдущим годом, когда затраты находились на уровне 200 млрд руб.
Затраты на ИИ при этом в 2024 г. составили около 1,15 трлн руб., следует из исследования центра компетенций Национальной технологической инициативы на базе МФТИ по направлению «Искусственный интеллект» за октябрь 2025 г. В 2023 г. эксперты МФТИ оценили затраты на ИИ на 28,4% меньше – в размере 895,6 млрд руб. Основным сегментом российского рынка ИИ является обработка естественного языка (NLP), на которую приходится 61,3% всех затрат.
Если посмотреть на то, как развивается ИИ, то в странах, которые лидируют по темпам развития и массовости использования ИИ, – США и Китае – уже сейчас наблюдается обратный тренд: они успели ощутить затраты, которые может принести использование ИИ, поэтому не стремятся использовать его везде, он вышел в плато, говорит Хлебунов. В России ситуация обратная – мы пока идем по пути нарастания ИИ-проектов, поэтому заметных потерь вроде Deloitte пока еще не было, подчеркнул он.
Например, по данным S&P Global Market Intelligence, доля компаний, отзывающих свои ИИ-инициативы, выросла до 42% в 2025 г. с 17% в 2024 г., приводит пример Михаил Хлебунов. В среднем компании отменяют 46% своих ИИ-пилотов еще до того, как они достигают стадии продакшена, и главная причина – разрыв в понимании, говорит он. То есть люди не понимают, как правильно использовать ИИ-инструменты и выстраивать рабочие процессы с их участием, напоминает он.
Самые популярные же модели ИИ от OpenAI – o3 и o4-mini – демонстрируют повышенный уровень «галлюцинаций», говорит Хлебунов. Модель o3 допускала ошибки в 33% случаев при ответах на вопросы о людях, что вдвое выше, чем у предыдущих моделей o1 (16%) и o3-mini (14,8%), в то время как o4-mini оказалась еще менее точной, «галлюцинируя» в 48% случаев, напоминает он. При этом согласно исследованию MIT, рассказал Хлебунов, только 5% пилотных ИИ-проектов обеспечивают рост выручки, в то время как остальные 95% буксуют и не оказывают заметного влияния на финансовые показатели компаний, несмотря на масштабные инвестиции.
Не только в деньгах дело
LLM, обученные на обобщенных публичных данных, не обладают контекстом конкретной бизнес-среды, отраслевой статистикой или внутренними данными компании, из-за чего создают иллюзию компетентности, отмечают эксперты. DSLM же обучаются на данных конкретной отрасли или компании, благодаря чему меньше фантазируют, лучше предсказывают поведение рынка и дают объяснимые результаты.
В то же время и обычные LLM, и дообученные LLM в виде DSLM все также представляют собой некий черный ящик и их предсказание строится на вероятностной модели, в связи с чем в любом случае будет уступать по точности абсолютным математическим подсчетам. Несмотря на то что в DSLM намного ниже риски галлюцинаций и повышена точность данных, неточности в расчетах и искажения ответов все также возможны.
Любая модель может ошибаться, даже самая хорошо обученная. ИИ на текущем этапе развития остается инструментом и помощником для человека, но финальное решение всегда должно оставаться именно за человеком, подчеркивает он. Негативные сценарии помимо финансовых потерь могут включать в себя завышенные ожидания от ИИ-проекта, недостаточно качественную работу модели и проблемы самого продукта на рынке, будь то ограниченный функционал, высокая стоимость или недостаточная узнаваемость из-за слабого маркетинга.
Когда можно, а когда не стоит
Уже есть ряд руководителей, которые работают исключительно с универсальными языковыми моделями, знает руководитель отдела цифровой трансформации НОЦ ФНС России и МГТУ им. Н. Э. Баумана Александр Староверов. Тот же ChatGPT в таких случаях используется для изучения отчетов, подготовки презентационных материалов, приводит пример он. В некоторых случаях это действительно может помочь, особенно если есть «боязнь белого листа», отметил он.
Но тут работает общий принцип, утверждает Староверов: если ты хороший специалист в своей области, то любая нейросеть поможет и освободит от рутины. Полностью полагаться на любой ИИ будет ошибкой, поскольку все универсальные модели имеют низкую точность, но даже с настройками информационных систем модель может дать очень убедительный и похожий на правду ответ, который окажется ложным, подчеркнул эксперт. Из непонимания ИИ растет и другая проблема – когда с помощью генеративного ИИ пытаются решать задачи прогнозирования, подчеркивают другие эксперты.
Критичность ошибки, сгенерированной ИИ, зависит от того, насколько крупные решения отдаются системе и с какими рисками и убытками компания готова мириться, подчеркивает Староверов. В любом случае правило одно: LLM – это только помощник, DSLM – это очень хороший помощник, но управлять всем должен человек, очень хорошо разбирающийся в своей сфере.
Ведомости
Ведущее деловое издание России