Почему данные в разных системах расходятся
Как возникает хаос в данных
В компании может быть вполне обычная ситуация: есть один клиент и один конкретный заказ.
Но если последовательно открыть CRM, ERP и внутренний аналитический отчёт, оказывается, что один и тот же заказ имеет три разных статуса:
На этом этапе в компании обычно начинают искать виноватого.
- › Кто-то уверенно говорит, что просто не сработала интеграция.
- › Кто-то напрямую обвиняет некорректно написанный API.
- › Кто-то аргументированно вспоминает про зависшую очередь сообщений.
А при детальном техническом разборе иногда выясняется удивительное: вся транспортная и шлюзовая инфраструктура отработала в штатном режиме, без сбоев.
Просто три независимые системы имели три разных логических представления о том, что произошло.
Это уже не локальная проблема конкретного API или протокола передачи. Это архитектурная проблема работы с распределёнными корпоративными данными.
Данные не «переезжают» между системами сами по себе
Когда заходит речь об интеграции, менеджеры часто представляют упрощённую линейную картину:
Кажется, что данные просто появились в CRM, затем автоматически перешли в ERP, после чего благополучно отправились в отчётность — и поэтому на каждом шаге они обязаны оставаться абсолютно идентичными.
Но в реальной промышленной системе топология обмена выглядит сложнее:
- › Собственные хранилища: каждая система физически хранит свою изолированную копию данных и стейтов;
- › Разное время апдейтов: каждая система обновляет и перезаписывает данные в собственном временном режиме, часто асинхронно относительно остальных систем;
- › Уникальная бизнес-логика: каждая подсистема имеет уникальные внутренние правила валидации и жизненного цикла объектов.
Поэтому зрелый архитектурный вопрос должен звучать не на поверхностном уровне:
— «Почему данные опять вовремя не синхронизировались?»
Он обязан ставиться в плоскости контрактного проектирования:
— «Как именно эти разнородные системы должны на программном уровне договариваться о едином актуальном состоянии одного и того же объекта?»
С инженерной точки зрения это гораздо более глубокий и важный вопрос.
Первая причина: нет источника истины
Представим жизненный цикл одного заказа в разных контурах.
Статус = Оплачен
Статус = Отгружен
Статус = Завершён
Все три значения могут быть абсолютно правильными с точки зрения логики конкретных отделов. Они просто описывают разные технологические этапы одного и того же сквозного процесса.
Но если компания на старте изначально не зафиксировала, что конкретное поле status имеет одинаковое значение во всех системах, в ИТ-контуре неизбежно начинается хаос. Особенно когда одна система начинает изменять значение, которое на самом деле по контракту должна только читать.
Сотрудник вручную корректирует статус внутри CRM до значения completed. Промышленная ERP об этой транзакции ничего не знает. Через несколько минут планировщик заданий снова передаёт старое зафиксированное значение из ERP обратно.
В этот момент техническая поддержка искренне не понимает, почему измененные данные постоянно мистическим образом «откатываются» назад.
> Хотя истинная причина тривиальна: два независимых источника данных ошибочно считают себя владельцами (мастерами) одного и того же информационного поля.
Источник истины — это не обязательно одна система
Это важный аспект контрактного проектирования распределённых систем.
Иногда менеджмент пытается топорно решить проблему расхождения данных одной силовой административной фразой:
«Давайте просто выберем какую-то одну систему главной над всеми остальными».
Но в масштабной корпоративной архитектуре всё устроено гораздо тоньше.
Вместо назначения одной «главной» программы на все случаи жизни, выстраивается матрица ответственности по доменам данных. И это является нормальной инженерной архитектурой:
- › CRM обычно отвечает за клиентские контакты и взаимодействие с клиентами.
- › ERP — обычно отвечает за финансовые проводки и учётные документы.
- › WMS — может выступать источником данных о складских остатках и движении товаров.
- › MES — обычно отвечает за регистрацию и контроль исполнения производственных операций.
- › TMS или система службы доставки — может выступать источником данных о статусе и местоположении перевозки.
Таким образом формируется не один громоздкий глобальный источник истины, а распределённая экосистема, состоящая из полноправных владельцев различных типов и доменов информации.
- › В такой распределённой среде самое главное и первостепенное — **изначально на уровне архитектуры зафиксировать и контрактно определить**, какой узел информационной инфраструктуры за какой конкретно класс данных несёт финальную ответственность.
Вторая причина: системы передают не события, а снимки
Есть ещё одна распространённая проблема при проектировании интеграционных пакетов.
Допустим, на старте процесса CRM-система выгрузила и передала в ERP фиксированный снимок (snapshot) объекта:
Заказ № 1528
Статус: Новый
Сумма: 450 000 ₽
Через час параметры заказа внутри CRM существенно изменились:
Заказ № 1528
Статус: Подтверждён
Сумма: 470 000 ₽
Если интеграция построена исключительно на периодической передаче таких снимков данных, ERP рискует надолго остаться в неактуальном состоянии.
Если изменения в CRM происходят чаще, чем выполняется регламентный обмен, принимающая система может не получать промежуточные состояния объектов. Это не обязательно ошибка: всё зависит от того, требуется ли передавать каждое изменение или достаточно актуального снимка данных.
Пока интеграционный шедулер пассивно ожидает наступления регламентного интервала в 15 минут, заказ успевает пролететь четыре стейта. В 10:15 принудительно запускается выгрузка снимка, и принимающая ERP-система получает из файла **сразу и только последнее зафиксированное состояние** (Отгружен).
С инженерной и аппаратной точки зрения это не обязательно является критической ошибкой.
Ситуация становится критической, если:
> Когда бизнес-заказчик на уровне логики изначально предполагает, что ERP обязана узнать, обработать и залогировать абсолютно каждое промежуточное изменение стейта отдельно.
Состояние и событие — разные вещи
Это одна из фундаментальных принципов при проектировании любых ИТ-интеграций.
Отвечает исключительно на вопрос: «Что сейчас?»
Пример: Заказ № 1528 = ОПЛАЧЕН
Отвечает на вопрос о том, что произошло: «Что произошло?»
Пример: Заказ создан → Подтверждён → Получена оплата → Передан на склад → Отгружен
- › Если принимающей системе достаточно получать текущее состояние объекта по запросу, может быть достаточно синхронного API. Если состояние необходимо поддерживать локально, можно использовать периодическое обновление или иной механизм синхронизации.
- › Если другие системы должны реагировать на каждое значимое изменение, лучше рассмотреть событийную интеграцию. При этом необходимо определить требования к порядку событий, повторной доставке, обработке ошибок и восстановлению после сбоев.
При таком проектировании общая ИТ-архитектура предприятия становится прозрачной, отказоустойчивой и понятной в поддержке.
А где здесь очереди?
Очередь сообщений в ИТ-индустрии часто ошибочно воспринимают как универсальное лекарство от абсолютно любых проблем интеграции.
Это не так. Асинхронная очередь решает совершенно другую, сугубо инфраструктурную задачу.
CRM передаёт сообщение брокеру, после чего принимающая система может обработать его позднее. Возможность пережить временную недоступность ERP зависит от настроек хранения сообщений, подтверждений доставки, повторных попыток и обработки ошибок.
При этом важно согласовать публикацию сообщения с фиксацией изменений в CRM: если данные сохранились, а сообщение не было отправлено, системы всё равно могут разойтись. Для снижения такого риска применяют, например, паттерн Transactional Outbox.
Однако брокер очередей абсолютно никогда не решает концептуальный вопрос:
— «Кто прав, если две системы одновременно прислали в контур совершенно разные значения?»
Брокер сообщений помогает доставлять и временно хранить сообщения, но конкретные гарантии зависят от его конфигурации и способа обработки. Даже успешно доставленное сообщение может содержать устаревшие или противоречивые данные, а значит, логическую согласованность необходимо обеспечивать отдельно. И в этом кроется разница между транспортной надёжностью и логической целостностью данных.
Очередь может даже сделать проблему сложнее
При переходе на асинхронный брокер в распределенном контуре возникают специфические проблемы хронологии.
Представим два последовательных бизнес-события по одному заказу:
01:00 — Заказ оплачен
01:01 — Заказ отменён
Если из-за сетевых задержек или параллельной обработки эти сообщения дошли до конечного обработчика в инвертированном (обратном) порядке:
1. Заказ отменён
2. Заказ оплачен
Если обработчик безусловно применяет каждое полученное событие, он может записать статус Оплачен после более позднего события отмены. В результате состояние заказа окажется некорректным.
Чтобы этого избежать, нужно сохранять порядок обработки в необходимой области, проверять версии событий и применять допустимые переходы состояний. Конкретный механизм зависит от модели данных и требований бизнес-процесса.
Именно поэтому при проектировании архитектуры на очередях инженерам приходится закладывать и программно обрабатывать множество факторов:
- › необходимые гарантии порядка обработки сообщений, например в пределах одного заказа или другого ключа упорядочивания;
- › сценарии повторной доставки при сетевых таймаутах;
- › фильтрацию и отсечение неизбежных дубликатов;
- › абсолютную идемпотентность получателей;
- › обработку непредсказуемых задержек на шине;
- › логику неуспешной обработки пакетов (DLQ);
- › лимиты и экспоненциальные повторные попытки (backoff retries).
Например, из-за сетевого сбоя подтверждения одно и то же сообщение может физически прийти два раза подряд: ORDER_PAID и следом снова ORDER_PAID.
Если обработчик на стороне получателя не обеспечивает идемпотентность, повторная доставка сообщения может привести к двойному списанию, дублированию записи в БД или другим нежелательным последствиям. Поэтому повторную обработку необходимо предусматривать в логике приложения, особенно для финансовых и других критичных операций.
> Именно поэтому профессиональная и надёжная интеграция данных никогда не заканчивается поверхностной фразой: «Мы просто поставили брокер сообщений».
Третья причина: данные меняются независимо
В компании может параллельно существовать сразу несколько независимых бизнес-процессов, которые одновременно модифицируют один и тот же объект.
Представим классический бытовой сценарий: клиент самостоятельно изменил свой номер телефона в личном кабинете на корпоративном портале. В те же минуты менеджер отдела продаж скорректировал его внутри CRM, а бухгалтер параллельно обновил платежные реквизиты этой карточки в ERP.
[ ИСХОД БЕЗ РЕГЛАМЕНТА ] > КЛАССИЧЕСКАЯ ГОНКА (RACE CONDITION).
- › Если ИТ-архитектура ландшафта заранее не задаёт строгие правила разрешения таких пересечений, сработает примитивный дефолтный сценарий: **последний записавший победил (Last Write Wins)**.
- › Однако в реальных бизнес-процессах автоматическая победа последней по времени сетевой транзакции далеко не всегда означает, что в базе данных сохранилась корректная и актуальная версия данных.
Время изменения тоже становится данными
Для исключения слепой перезаписи и гонки стейтов в распределённых базах данных обычного хранения «сырого» значения становится категорически недостаточно.
Вместо хранения отдельного значения (например, Телефон = +7...) система может сохранять его вместе с метаданными, необходимыми для контроля изменений и разрешения конфликтов:
Значение: +7...
Изменено: 2026-10-04 09:42
Изменил: CRM
Версия: 18
Метаданные позволяют принимающей системе сравнивать версии объектов и обнаруживать потенциально устаревшие изменения. Однако для корректного разрешения конфликтов необходимо заранее определить правила версионирования, источник порядка изменений и поведение при одновременном редактировании данных. Одна временная метка не всегда позволяет достоверно установить, какое изменение должно иметь приоритет.
В высоконагруженных промышленных сценариях для обеспечения целостности данных разворачиваются специализированные подходы:
- › сквозное версионирование объектов (optimistic locking);
- › высокоточные системные временные метки (timestamps);
- › распределенные идентификаторы транзакций и изменений;
- › децентрализованные механизмы разрешения конфликтов.
- › Внедрение метаданных и контроля версий **становится критически важным фактором**, как только обмен данными в архитектурном контуре начинает осуществляться по асинхронным сценариям.
Четвёртая причина: интеграция передаёт слишком мало информации
Иногда в архитектуре распределённых систем используется чрезмерно лаконичный, «слепой» формат уведомлений.
Передающая система отправляет в общую шину или брокер максимально скудную строку:
status = changed
И всё. Принимающий узел получает этот триггер, но не имеет никакой возможности программно выяснить ключевые параметры транзакции:
- › что именно физически изменилось в теле объекта;
- › в какой конкретно момент времени это произошло;
- › какой именно пользователь или процесс инициировал апдейт;
- › какое точное значение поля было предыдущим (историческим);
- › какая версия бизнес-объекта актуальна на стороне мастера.
С инженерной точки зрения значительно полезнее и безопаснее передавать полноценное событие с развернутым контекстом:
ORDER_STATUS_CHANGED
order_id: 1528
old_status: confirmed
new_status: shipped
changed_at: 10:42:18
source: ERP
version: 27
- › Теперь принимающая сторона способна не просто слепо зафиксировать факт какого-то изменения, а **восстановить и проверить исходный бизнес-контекст**.
- › Наличие детального тела сообщения принципиально важно в сложных ландшафтах, где корпоративные данные последовательно проходят через несколько распределённых промежуточных слоев и шин обмена.
Пятая причина: ручное изменение данных
Есть ещё один источник рассинхронизации, который часто забывают при проектировании интеграции.
Человек.
Система может работать штатно, API — отвечать без ошибок, а очередь — успешно доставлять сообщения. Но сотрудник вручную меняет значение в ERP, и это изменение не передаётся другим системам, поскольку не предусмотрено правилами интеграции.
В результате другие системы продолжают использовать прежнее значение, хотя технические механизмы обмена работают без сбоев.
Если ручное изменение допустимо, оно должно быть частью архитектуры. Нужно понимать:
- › кто имеет право менять данные;
- › какие поля можно менять вручную;
- › что происходит после изменения;
- › нужно ли отправлять событие;
- › какая система должна узнать об изменении.
- › Иначе ручная работа превращается в скрытый канал интеграции.
Почему отчёт часто показывает совсем не то
Отдельная история — аналитика.
Бизнес ожидает:
Но аналитическая система может работать иначе. Например, данные сначала попадают в промежуточное хранилище:
Данные обновляются не каждую секунду.
Поэтому в ERP уже 10 000 заказов, а в отчёте пока 9 940.
Это не обязательно ошибка.
Возможно, отчёт построен на данных, которые обновляются раз в час.
Проблема начинается тогда, когда пользователям никто не объяснил эту особенность.
> Они видят разные цифры и считают, что интеграция сломалась.
Нельзя синхронизировать всё одинаково
Для разных данных нужна разная скорость.
- › остаток товара может требовать почти реального времени.
- › карточка клиента может обновляться с задержкой в несколько минут.
- › финансовая аналитика иногда спокойно работает с часовым или даже дневным обновлением.
Поэтому архитектура должна отвечать не на вопрос:
— «Как сделать всё real-time?»
А:
— «Где real-time действительно нужен бизнесу?»
- › Попытка обеспечить мгновенное обновление всех данных резко увеличивает сложность системы.
Как понять, где искать проблему
Когда данные расходятся, полезно не начинать с просмотра кода API.
Сначала нужно выбрать конкретный объект, например заказ № 1528, и восстановить его путь:
На каждом этапе нужно понимать:
- › какое состояние было получено;
- › какое состояние отправлено;
- › когда это произошло;
- › какой идентификатор использовался;
- › была ли ошибка;
- › была ли повторная обработка;
- › какая версия объекта пришла.
- › После этого рассинхронизация обычно перестаёт выглядеть мистикой.
- › Она превращается в конкретное место на цепочке.
Для ускорения диагностики полезно проверять не только итоговые значения, но и временную последовательность изменений. Для каждого сообщения стоит фиксировать идентификатор бизнес-объекта, идентификатор события, версию данных, время создания события и время обработки, источник изменения и результат операции. Это помогает отличить потерю сообщения от задержки доставки, повторной обработки, нарушения порядка событий и конфликта между независимыми изменениями. При этом технические журналы должны позволять проследить путь объекта между системами, не раскрывая лишние персональные или конфиденциальные данные.
Хорошая интеграция должна быть наблюдаемой
Если система просто передаёт данные, но никто не может понять, что произошло с конкретным объектом, это слабое место архитектуры.
Нужны хотя бы базовые технические следы:
10:01:03 CRM → Integration
10:01:04 Integration → Queue
10:01:06 Queue → ERP
10:01:07 ERP → OK
10:20:11 DWH ← loaded
Тогда при обращении сотрудника:
— «Почему заказ ещё не появился в отчёте?»
не приходится отвечать:
— «Наверное, интеграция не сработала».
Можно посмотреть цепочку и сказать:
— «ERP получила заказ в 10:01, аналитическое хранилище забирает данные раз в час. В отчёте он появится в следующем цикле».
Это уже другой уровень эксплуатации системы.
Идентификатор важнее, чем кажется
Ещё одна классическая проблема — разные идентификаторы одного объекта.
client_id = 5831
customer_id = 91284
customer_id = 741
Если между ними нет явного соответствия, система пытается сопоставить записи самостоятельно.
А угадывать в интеграциях нельзя.
Нужна явная связь.
Особенно опасны ситуации, когда интеграция сопоставляет объекты по имени, телефону или другому неуникальному признаку.
Сегодня такое сопоставление может работать.
Но клиент меняет номер телефона, несколько клиентов используют общий контакт или данные вводятся с ошибкой.
> В результате система может создать дубликат клиента или ошибочно связать записи разных людей.
Что делать, если системы уже расходятся
Первое — не пытаться сразу «дожать синхронизацию».
Сначала нужно понять модель данных. Для каждого важного объекта определить:
- › Кто владелец?
- › Кто создаёт объект?
- › Кто может его изменять?
- › Какие изменения должны передаваться дальше?
- › Какие системы только читают данные?
- › Какие изменения являются событиями?
- › Какая задержка допустима?
- › Что происходит при ошибке?
- › Что происходит при повторной доставке?
- › Что делать с конфликтом?
После этого уже выбирается технический механизм:
- › Где-то достаточно REST API.
- › Где-то лучше webhook.
- › Где-то нужна очередь.
- › Где-то нужен периодический обмен.
А иногда приходится использовать комбинацию всех этих подходов.
Не каждая интеграция должна быть двусторонней
Очень полезное правило.
Если система B только получает данные из системы A, не нужно автоматически делать обратный канал.
Например, схема ERP ─────────► BI может быть значительно лучше, чем ERP ◄────────► BI, если аналитическая система вообще не должна изменять данные ERP.
Чем меньше систем имеют право менять один объект, тем проще поддерживать согласованность.
Поэтому при проектировании интеграций полезно разделять:
- › кто владеет данными;
- › кто ими пользуется.
А если нужна действительно надёжная синхронизация?
Тогда интеграцию нужно рассматривать как отдельную часть системы, а не как несколько HTTP-запросов между программами.
- › определённые источники истины;
- › единые идентификаторы;
- › понятная модель событий;
- › контроль версий;
- › повторная обработка;
- › идемпотентность;
- › журналирование;
- › мониторинг;
- › контроль ошибок;
- › правила разрешения конфликтов.
И, самое главное, необходимо определить владельцев данных.
Потому что технически можно построить очень сложную и дорогую интеграцию.
> Но если бизнес изначально не решил, какое состояние считать правильным, никакая технология не спасёт.
Главное
Когда данные в CRM, ERP и отчётах расходятся, проблема далеко не всегда находится в API.
Иногда API отработал идеально.
Иногда очередь доставила сообщение без единой ошибки.
Иногда все системы сделали ровно то, что от них требовалось.
А данные всё равно разные.
Потому что архитектура не определила:
> кто владеет данными, кто имеет право их менять, какое событие считается значимым и какое состояние считать актуальным.
Хорошая интеграция — это не когда все системы показывают одинаковые цифры каждую секунду.
Это когда разница между системами предсказуема, объяснима и контролируема.
Если ERP обновляется сейчас, CRM через минуту, а аналитика через час — это может быть совершенно нормальной архитектурой.
Если никто внутри компании не знает, почему они отличаются, — вот тогда начинается настоящая проблема.
И именно поэтому надёжный обмен данными начинается не с выбора API, очереди или конкретного инструмента.
Он начинается с вопроса:
— «Какая система отвечает за эту информацию и что именно остальные системы должны с ней делать?»
Как синхронизировать данные между системами
Почему в системе появляются дубликаты и несовпадения
1С, CRM и сайт: как системы обмениваются данными
Все инженерные материалы и экспертные статьи
Полный алфавитный справочник ИТ-терминов