Главная ошибка при внедрении ИИ — ошибка последовательности
Когда компания получает от искусственного интеллекта неверный ответ, первой под подозрение обычно попадает модель. Кажется, что она недостаточно умна, плохо понимает контекст или склонна придумывать факты. Но во многих случаях проблема возникает раньше — ещё до того, как ИИ вообще начинает работать.
Ошибка последовательности
Это не ошибка качества модели. Это ошибка последовательности.
ИИ работает не с бизнесом напрямую, а с тем представлением бизнеса, которое ему дали. Если в 1С один и тот же поставщик записан как одна организация, в CRM — как две разные, а в Excel-таблице — как третья, модель не может самостоятельно определить, где находится истина. У неё нет доступа к некой объективной версии компании. Она видит противоречивые данные и формирует на их основе наиболее убедительный ответ.
В результате интеллект не выбирает истину — он выбирает формулировку, которая звучит уверенно. И чем лучше модель умеет писать, объяснять и аргументировать, тем дороже компании может обойтись эта уверенность.
Иллюзия управляемости
Отсутствие данных хотя бы заметно. Руководитель видит пустое поле, недостающий отчёт или отсутствие цифры и понимает, что информации недостаточно. Он знает, что не знает.
Гораздо опаснее другая ситуация: данные существуют, ответ уже подготовлен, формулировка звучит спокойно и профессионально, но никто в комнате не может точно сказать, из какой системы пришла цифра, к какому объекту она относится и почему ей вообще можно доверять. Возникает иллюзия управляемости — а она всегда выглядит убедительнее и вежливее, чем очевидная дыра в отчёте.
Готовность начинается с гигиены
Именно поэтому готовность компании к ИИ начинается не с выбора модели, не с запуска агента и даже не с пилотного проекта. Она начинается с гораздо более скучных вопросов: кто владеет конкретной бизнес-сущностью, какой идентификатор для неё обязателен, какой источник считается первичным, как разрешаются противоречия между системами и какие данные нельзя сохранить без подтверждённой связи с другими объектами.
Это трудно назвать инновацией. Это обычная информационная гигиена. Но без неё любой новый интеллектуальный слой не устраняет старую путаницу — он лишь начинает распространять её быстрее, шире и убедительнее.
Где ИИ имеет смысл
ИИ действительно имеет смысл там, где человеку уже можно доверить действие: согласовать документ, сверить платёж, обнаружить расхождение, отправить операцию на проверку или эскалировать проблему. Но если нельзя доверять самому объекту, на основании которого принимается решение, нельзя давать полномочия и ИИ-агенту.
Иначе автоматизация не выполняет работу. Она превращает чужую ошибку в официальное действие системы.
Главный вопрос
Поэтому главный вопрос заключается не в том, внедрила ли компания искусственный интеллект. Важно другое: если завтра модель даст уверенный ответ, сможете ли вы проследить, из какого источника он получен, на каком объекте построен и какими связями подтверждён? Или вам снова придётся верить только убедительному тону?
«Без гигиены данных любой новый интеллектуальный слой не устраняет старую путаницу — он лишь начинает распространять её быстрее, шире и убедительнее.»