Как перелить терабайты данных из старой ИТ-системы в новую и ничего не потерять по дороге
Самый опасный момент миграции — когда кажется, что всё уже получилось
Представим производственное предприятие, которое переносит корпоративную информационную систему на новую платформу. В старой базе накопилось 4 ТБ данных: документы, справочники, движения товаров, складские остатки, история операций, вложения и результаты обмена с другими системами.
Новую инфраструктуру подготовили. База данных создана, приложение запускается, тестовые операции проходят. Команда начинает перенос и через несколько часов получает сообщение: первоначальная загрузка завершена успешно.
Можно переключать пользователей?
Пока нет.
В течение этих нескольких часов предприятие продолжало работать. Сотрудники проводили документы, склад регистрировал движения, интеграции передавали заказы, фоновые задания пересчитывали показатели. Часть этих изменений могла попасть в новую систему, часть ещё ожидает переноса.
Но проблема не только в изменениях.
Даже если все записи скопированы, остаются вопросы, которые нельзя решить одним сообщением об успешном завершении задания:
- Все ли исходные объекты попали в целевую систему?
- Не потерялись ли изменения, произошедшие во время копирования?
- Сохранились ли связи между документами, справочниками и регистрами?
- Правильно ли преобразованы идентификаторы, даты, статусы и числовые значения?
- Совпадают ли бизнес-итоги, которые рассчитываются на основании перенесённых данных?
- Что произойдёт, если после переключения обнаружится ошибка, а пользователи уже проведут сотни новых операций?
Последний вопрос особенно неприятен. До переключения старая система остаётся источником достоверных данных. После переключения новая система постепенно становится таким источником. Если в этот момент обнаруживается критическая ошибка, простого возврата пользователей на старую базу может оказаться недостаточно.
Миграция — это не копирование базы данных. Это управляемая передача состояния бизнеса из одной системы в другую.
Именно поэтому её результат нельзя оценивать только по скорости переноса, количеству скопированных записей или отсутствию ошибок в журнале задания.
Нужно доказать, что данные перенесены полностью, преобразованы правильно, согласованы между собой и готовы к использованию в рабочих процессах.
Причём доказать не на словах, а проверками, результат которых можно воспроизвести и объяснить.
Сначала нужно понять, что именно мы переносим
Одна из наиболее дорогих ошибок возникает ещё до запуска миграционных инструментов: команда считает, что знает структуру исходной системы, хотя фактически знает только структуру её базы данных.
Это не одно и то же.
В базе могут находиться миллионы документов, технические журналы, временные таблицы, архивные записи, вложения и данные, которые используются только определёнными регламентными заданиями. Некоторые объекты можно пересоздать. Другие невозможно восстановить без исходной истории.
При этом физический размер не отражает бизнес-критичность.
Таблица на несколько мегабайт может содержать соответствия идентификаторов между системами. Если её перенести неправильно, ссылки на миллионы документов окажутся недостоверными. А несколько сотен гигабайт старых технических журналов могут вообще не требоваться новой системе для работы, хотя их сохранение может быть необходимо по отдельным требованиям.
Поэтому первым результатом подготовки должна стать не выгрузка перечня таблиц, а карта данных и зависимостей.
Для каждого значимого набора необходимо определить:
- где находятся исходные данные и кто отвечает за них;
- какой объём нужно перенести;
- как часто данные изменяются;
- какие объекты от них зависят;
- какие преобразования требуются;
- как проверить результат;
- как безопасно повторить загрузку после сбоя;
- что делать с данными, которые решено не переносить.
Отдельно рассматривают внешние файлы, вложения, очереди сообщений, историю изменений и данные, находящиеся вне основной СУБД.
Почему одинаковые поля не означают одинаковые данные
Допустим, в старой системе состояние заказа обозначается числом. Значение 2 означает завершённый заказ, но только при условии, что заполнена определённая дата и проведён итоговый документ.
В новой системе используются отдельные статусы Completed и Archived. Прямое преобразование числа в статус не учитывает дополнительное условие.
В результате запись может успешно загрузиться, все обязательные поля будут заполнены, но заказ получит неправильное состояние.
Это уже не техническая ошибка копирования. Это ошибка интерпретации данных.
То же самое происходит с единицами измерения, валютами, часовыми поясами, точностью денежных значений, правилами округления и идентификаторами связанных объектов.
Перед миграцией необходимо определить правила преобразования и проверить их на репрезентативной выборке, включая исключения и исторические данные.
Если правило нельзя сформулировать однозначно, его нельзя молча заменять значением по умолчанию.
Какие данные можно исключить
Исключения допустимы, если они обоснованы и согласованы.
Например, временные данные могут пересоздаваться, а архивные журналы — храниться отдельно. Но для каждого такого решения необходимо зафиксировать, что исключается, почему это допустимо и где данные будут доступны после перехода, если они ещё нужны бизнесу.
Нельзя обнаружить после запуска, что старая система хранила критичную историю в структуре, которую команда посчитала технической и не включила в перенос.
До миграции должно быть известно не только то, что мы переносим, но и то, что сознательно не переносим.
Это первая точка, в которой инженерная работа позволяет предотвратить потерю данных ещё до возникновения самой проблемы.
Полная загрузка, репликация или логическая миграция?
Универсального способа переноса терабайтов не существует. Архитектура зависит от того, насколько похожи системы, допускается ли длительная остановка, как быстро меняются данные и какие гарантии согласованности нужны.
Условно можно выделить три подхода.
Источник останавливают или фиксируют согласованное состояние, данные переносят целиком, после чего выполняют проверки и запускают новую систему. Это относительно простой сценарий, если допустимое окно обслуживания достаточно велико.
Основной объём переносится, пока старая система продолжает работать. Затем изменения, накопившиеся за это время, передаются в новую систему. Такой подход позволяет существенно сократить простой, но требует надёжного механизма фиксации и применения изменений.
Исходные записи извлекаются, преобразуются в новую модель и загружаются с учётом бизнес-правил. Этот вариант необходим, когда системы отличаются структурой, идентификаторами или логикой приложения. При этом он требует отдельного решения задачи согласованности и повторного применения изменений.
Физическая репликация между совместимыми экземплярами СУБД может существенно упростить перенос, но не заменяет преобразование бизнес-модели. Если новая система использует другие сущности, ключи или правила обработки документов, копирование на уровне базы само по себе эту разницу не устранит.
Поэтому сначала выбирают способ обеспечения корректности, а уже затем — инструменты.
Сколько на самом деле займёт перенос 4 ТБ
Рассмотрим условный проект с объёмом исходных данных 4 ТБ в десятичном представлении.
Если устойчивая скорость передачи составляет 200 МБ/с — что на практике может ограничиваться производительностью дисковой подсистемы СУБД, пропускной способностью сети 10 GbE или накладными расходами на сериализацию объектов — идеальное время передачи будет следующим:
Это примерно 5 часов 33 минуты.
Но полученное число описывает только передачу заданного объёма при указанной скорости. Оно не учитывает чтение данных из источника, преобразование, запись, индексы, ограничения, конкуренцию за ресурсы и проверку результата.
Если же 200 МБ/с — скорость чтения, а целевая система способна устойчиво записывать только 120 МБ/с, реальная пропускная способность всего конвейера не превысит пропускную способность его узкого места.
При отсутствии дополнительных ограничений нижняя оценка времени записи 4 ТБ со скоростью 120 МБ/с составит около 9 часов 16 минут.
И даже это ещё не оценка всего проекта.
Правильнее измерить скорость на репрезентативных данных, определить время преобразования и проверки, а затем выполнить полноценную репетицию. Таблицы с крупными объектами, сложными преобразованиями или множеством зависимостей могут переноситься значительно медленнее среднего значения.
Если бизнес допускает простой только на 30 минут, переносить весь объём в это окно заведомо неразумно.
Основная загрузка должна выполняться заранее, а на момент переключения необходимо оставить лишь контролируемый объём финальной синхронизации и проверок.
Как переносить большими пакетами и не превращать сбой в повтор всей работы
Перенос терабайтов одной гигантской транзакцией — обычно плохая идея. Чем дольше операция, тем дороже её повторение и тем сложнее восстановить процесс после частичного отказа.
Но и слишком маленькие пакеты не всегда эффективны: каждая операция создаёт накладные расходы на подготовку, передачу, фиксацию и обработку результата.
Размер пакета нужно подбирать измерениями.
Допустим, мы переносим документы и связанные записи. Начинаем с нескольких тысяч объектов, измеряем скорость, длительность транзакций, нагрузку на диск, количество ошибок и стоимость проверки. Затем увеличиваем размер и смотрим, как меняется общая производительность.
Если пакет вдвое больше, но обрабатывается втрое дольше, ускорения не произошло. Если большой пакет резко увеличивает задержки рабочих запросов, его преимущества тоже сомнительны.
Особенно важно учитывать не только количество записей, но и их размер. Десять тысяч коротких строк и десять тысяч записей с крупными вложениями создают совершенно разную нагрузку.
Что делать с зависимостями
Предположим, документ ссылается на контрагента, номенклатуру и подразделение. Если документы загрузятся раньше обязательных справочников, возможны ошибки ограничений или создание некорректных связей.
Поэтому порядок загрузки должен учитывать зависимости данных. Иногда сначала переносят базовые справочники, затем документы и связанные объекты. Для циклических зависимостей и моделей с отложенными проверками требуется отдельная стратегия.
Если исходные идентификаторы сохраняются, это упрощает сопоставление. Если они меняются, необходим устойчивый механизм соответствий между исходными и целевыми объектами.
Причём недостаточно один раз построить таблицу соответствий. Она должна сохранять смысл при повторной загрузке, обработке новых объектов и восстановлении после сбоя.
Идемпотентность — защита от повторного выполнения
Представим, что началась загрузка пакета из 50 000 записей. Соединение оборвалось. Миграционный процесс не знает, успели ли примениться последние изменения.
Если повторный запуск безусловно вставляет все записи заново, появятся дубликаты или ошибки уникальности.
Поэтому повторное выполнение должно быть предусмотрено архитектурой.
Для этого используют устойчивые ключи, идентификаторы пакетов, фиксацию прогресса и согласованную стратегию повторной обработки. Если записи могут изменяться, необходимо также учитывать их версии или позиции изменений в исходном потоке.
Важная тонкость: нельзя считать пакет завершённым только потому, что данные отправлены на целевую сторону. Необходимо понимать, были ли они фактически применены и зафиксированы.
Если данные записались, а отметка о завершении пакета не сохранилась, процесс должен уметь восстановиться без потери информации и нежелательного повторного применения изменений.
Надёжная миграция — не та, которая никогда не прерывается. Это та, которая после прерывания может определить своё состояние и безопасно продолжить работу.
Данные меняются во время переноса. Как не получить две разные версии одной системы?
Это одна из самых сложных частей миграции с коротким окном простоя.
Предположим, в 09:00 начинается перенос заказов. В 09:15 пользователь изменяет заказ. В 09:30 миграция переносит связанные платёжные данные.
Если заказ и платёж были прочитаны в разные моменты без подходящей гарантии согласованности, целевая система может получить сочетание состояний, которого в источнике никогда не существовало как единого целого.
Решение состоит не в простом ускорении копирования. Необходимо определить согласованную исходную точку и способ учёта всех изменений после неё.
Согласованный снимок — это не просто время запуска задания
Согласованный снимок в реляционной СУБД позволяет читать данные в определённом состоянии, несмотря на последующие изменения. Конкретный механизм зависит от СУБД и используемого способа выгрузки.
Если используется PostgreSQL, например, необходимо правильно связать первоначальную загрузку с позицией в журнале изменений при использовании логической репликации или другого механизма CDC. Иначе можно получить разрыв между исходным снимком и потоком изменений.
Сценарий опасен тем, что выглядит почти успешным: основная масса данных на месте, ошибок загрузки нет, но небольшая группа изменений не попала в целевую систему.
Обратная ситуация тоже возможна: часть данных присутствует в первоначальной загрузке и повторно применяется из потока. Это не всегда приводит к видимым дублям, но может вызвать неверные результаты, если обработка не рассчитана на повторную доставку.
Поэтому механизм синхронизации должен чётко определять:
- состояние данных, с которого начинается перенос;
- позицию, с которой учитываются последующие изменения;
- порядок применения изменений там, где он существенен;
- обработку вставок, обновлений и удалений;
- критерии завершения синхронизации.
Нельзя считать задачу решённой только потому, что CDC подключён и показывает движение событий.
Сквозной пример: основная загрузка закончилась, но переключаться рано
Продолжим модельный сценарий с базой объёмом 4 ТБ.
Первоначальная загрузка завершилась за 7 часов. За это время старая система продолжала работать, и накопилось 120 ГБ изменений, которые ещё нужно применить к новой системе.
Допустим, поток изменений обрабатывается со скоростью 20 МБ/с, а новые изменения появляются в источнике со средней скоростью 5 МБ/с. Для упрощения примера считаем, что обе скорости устойчивы, выражены в одинаковых единицах и относятся к объёму данных, учитываемому механизмом синхронизации.
Целевая система обрабатывает изменения быстрее, чем они возникают. На устранение накопленного отставания остаётся чистая скорость:
Тогда расчётное время сокращения очереди объёмом 120 ГБ составит:
Это около 2 часов 13 минут.
Следовательно, если ничего не менять, после первоначальной загрузки команде придётся ждать ещё более двух часов только для устранения текущего отставания в рамках заданных условий.
Это не означает, что переключение обязательно займёт столько времени: реальные потоки могут быть неравномерными, а после остановки записи новые изменения перестанут поступать. Но пример показывает, почему нельзя рассчитывать окно простоя только по скорости первоначального копирования.
Если же поток изменений обрабатывается медленнее, чем создаются новые, очередь вообще не будет сокращаться. Увеличение времени ожидания ситуацию не исправит: необходимо менять производительность обработки, ограничивать нагрузку или пересматривать архитектуру миграции.
Перед переключением нужно оценивать не только текущий размер очереди, но и скорость её сокращения, характер оставшихся событий и способность системы догнать источник в установленный срок.
CDC не решает всё автоматически
Change Data Capture позволяет фиксировать изменения, но не гарантирует корректность всей логики миграции.
Например, при логической репликации PostgreSQL изменения схемы не следует считать автоматически синхронизированными вместе с данными. Состояние последовательностей и некоторые другие элементы также требуют отдельной проверки в зависимости от способа переноса.
При логической миграции между разными моделями данных задача ещё сложнее: события необходимо преобразовывать, сопоставлять идентификаторы, учитывать бизнес-правила и обеспечивать безопасное повторное применение.
Отдельно нужно решить вопрос удалений. Если удалённая в источнике запись не отражается в целевой системе, она продолжит существовать и может влиять на отчёты и расчёты.
Поток изменений — это механизм доставки изменений, а не доказательство того, что новая система находится в правильном состоянии.
Доказательство появляется только после того, как определены границы согласованности, обработаны изменения и пройдены необходимые проверки.
Почему одинаковое количество записей не доказывает успешную миграцию
Предположим, в исходной и целевой базах по 12 миллионов документов.
Количество совпало. Можно ли считать перенос правильным?
Нет.
В целевой базе могут отсутствовать некоторые исходные документы, а вместо них присутствовать дубликаты. Число записей будет одинаковым, но состав данных различается.
Даже совпадение идентификаторов не гарантирует правильности всех полей, связей и бизнес-результатов.
Поэтому проверка должна быть многоуровневой.
Сравнивают количество записей по таблицам, типам объектов, периодам, подразделениям и другим значимым измерениям. Это помогает локализовать расхождения, которые скрываются за общим количеством.
Проверяют наличие ожидаемых объектов, уникальность ключей и правильность таблиц соответствий. Если идентификаторы изменились, сравнение выполняют через установленный механизм сопоставления.
Сравнивают содержимое с учётом согласованных преобразований. Даты, числа, кодировки, пустые значения и статусы требуют правил, соответствующих конкретной модели данных.
Проверяют не только наличие ссылок, но и то, что они ведут к правильным объектам. Ссылка на существующего, но неправильного контрагента формально не является потерянной ссылкой, однако с точки зрения бизнеса это серьёзная ошибка.
Проверяют правила, которые должны выполняться независимо от того, как устроены таблицы. Для складской системы это могут быть остатки по номенклатуре и складам, согласованность движений и итоговых количеств. Для финансовой — равенство установленных итогов и составляющих, корректность валют и округления. Для документооборота — соответствие статусов, дат и связанных операций.
Набор проверок определяется предметной областью. Универсальная проверка базы не заменяет понимания бизнес-логики.
Контрольные суммы: полезны, но не всесильны
Контрольные суммы помогают выявлять различия, однако важно понимать, что именно сравнивается.
Если копируется файл, хеш исходного файла можно сравнить с хешем полученного. При совпадении криптографических хешей с высокой вероятностью подтверждается идентичность содержимого.
Но при логической миграции исходная запись может быть преобразована, разбита на несколько объектов или получить новый идентификатор. Физическое представление данных тоже может измениться.
Поэтому для сравнения записей можно использовать каноническое представление: одинаковый порядок полей, согласованные форматы чисел и дат, правила обработки пустых значений и кодировки.
Если преобразование допустимо, оно должно учитываться явно. Слишком буквальное сравнение обнаружит ложные различия, а слишком агрессивная нормализация может скрыть настоящую ошибку.
Для больших объёмов проверку удобно организовать иерархически:
- Разделить данные на таблицы или логические сущности.
- Разбить крупные наборы на устойчивые диапазоны ключей.
- Сравнить количество записей и контрольные показатели каждой группы.
- Для групп с расхождениями выполнить более детальную проверку.
- Найти конкретные записи и поля, вызвавшие различия.
При необходимости можно применять древовидные структуры контрольных хешей, позволяющие локализовать различия без полного повторного сравнения всего массива.
Но хеш не объясняет причину расхождения. Он указывает, где нужно искать.
И даже полное совпадение проверяемых записей не доказывает корректность бизнес-логики. Если исходные данные уже содержали ошибку, точное копирование сохранит её.
Поэтому контрольные суммы должны дополнять, а не заменять структурную и бизнес-сверку.
Как расследовать найденное расхождение
Предположим, проверка обнаружила, что складской остаток по одной номенклатурной позиции в новой системе отличается от исходного на 240 единиц.
Первое действие — не исправить число вручную.
Нужно определить, что именно сравнивается: остаток на один момент времени или данные, полученные в разные моменты. Затем проверить исходные движения, связанные документы, единицы измерения, правила преобразования и момент применения изменений.
Возможны разные причины:
- часть движений не попала в первоначальную загрузку;
- событие изменения не обработано или обработано повторно;
- преобразование единиц измерения выполнено неверно;
- в целевой системе иначе рассчитывается итог;
- сравниваются состояния на разные моменты времени.
У каждой причины будет своё исправление. Если проблема заключается в систематической ошибке преобразования, корректировка одного остатка только замаскирует дефект.
После исправления нужно определить весь набор затронутых данных, повторить необходимые проверки и убедиться, что проблема устранена на уровне причины.
Именно так сверка становится инструментом расследования, а не формальным отчётом перед запуском.
Две работающие системы не означают две согласованные системы
Параллельная работа помогает проверить новую платформу до окончательного перехода. Но здесь важно различать два режима.
В первом старая система продолжает принимать изменения, а новая получает данные для проверки. Запись в новой системе ограничена или отключена. Это сравнительно простой вариант, если ограничения действительно соблюдаются.
Во втором обе системы принимают реальные изменения. Здесь появляется задача разрешения конфликтов.
Предположим, один сотрудник изменил заказ в старой системе, а другой почти одновременно изменил тот же заказ в новой. Какое состояние должно стать окончательным? Что произойдёт, если одна система зафиксировала изменение, а вторая отказала? Как будут обработаны зависимые операции?
Обычная двусторонняя синхронизация не отвечает на эти вопросы автоматически.
Особенно опасны операции с побочными эффектами: списание материалов, резервирование ресурсов, отправка платёжных поручений или передача команд производственному оборудованию. Повторное выполнение такой операции может быть неэквивалентно повторной передаче записи.
Если возможно, на период миграции лучше сохранить единственный авторитетный источник записи для каждой категории данных. Новая система может получать изменения и сравнивать результаты, но не должна независимо создавать конкурирующую версию состояния.
Если обе системы действительно должны принимать изменения, заранее проектируют правила владения данными, разрешения конфликтов, контроль версий, идемпотентность и восстановление после частичного сбоя.
Теневой режим: как сравнить системы без риска для бизнеса
В теневом режиме новая система получает необходимые входные данные и выполняет расчёты, но не производит нежелательных внешних действий.
Затем сравнивают результаты: суммы, статусы, отчёты, вычисленные показатели и другие критичные значения.
Однако сравнение должно выполняться на сопоставимых входных данных. Если системы обработали разные версии заказа, различие результата ещё не доказывает ошибку алгоритма.
Также нельзя бездумно запускать бизнес-операции в обеих системах. Если операция отправляет сообщение клиенту, создаёт платёж или инициирует производственное действие, её дублирование может иметь реальные последствия.
Поэтому теневое выполнение должно быть спроектировано с учётом побочных эффектов.
Его задача — получить доказательства правильности новой системы до того, как ей будет передано управление реальными бизнес-процессами.
Переключение: как сократить простой и не потерять последние изменения
К моменту переключения основная масса данных уже должна находиться в целевой системе. Оставшаяся работа — завершить синхронизацию, выполнить финальные проверки и передать управление.
Но переключение нельзя сводить к изменению адреса подключения.
В старой системе могут оставаться открытые транзакции, фоновые задания, интеграции и внешние сервисы, продолжающие изменять данные. Если просто отключить пользовательский интерфейс, это не гарантирует прекращения всех записей.
Поэтому процедура переключения должна быть отрепетирована целиком.
Практический порядок действий
- Зафиксировать момент прекращения записи.
Остановить или контролируемо завершить операции, которые могут изменять исходные данные. Проверить фоновые задания и интеграции, а не только пользовательские подключения. - Убедиться, что исходные операции завершены.
Нельзя начинать финальную сверку, если часть транзакций ещё находится в неопределённом состоянии. - Догнать целевую систему.
Применить оставшиеся изменения до достижения согласованной конечной позиции. Проверить отсутствие ошибок обработки и убедиться, что целевая система действительно достигла требуемого состояния. - Выполнить обязательные проверки.
Проверить критичные данные, связи, бизнес-инварианты и работу необходимых интеграций. - Передать управление новой системе.
Переключить подключения, включить необходимые задания и разрешить запись после выполнения критериев готовности. - Проверить рабочие операции.
Выполнить заранее определённые сценарии и убедиться, что новая система работает в ожидаемых условиях.
Конкретная последовательность зависит от архитектуры. Но каждое действие должно иметь понятный результат и критерий завершения.
Как понять, что окно простоя реалистично
Предположим, предприятие допускает не более 30 минут простоя.
Если финальная синхронизация в предыдущих испытаниях занимала два часа, рассчитывать на 30 минут в день запуска бессмысленно.
Нужно заранее уменьшить отставание, повысить производительность обработки, сократить обязательные действия в окне переключения или изменить архитектуру.
Оценивать время нужно по фактическим измерениям на репетициях, а не по теоретической скорости сети.
При этом полезно разделять продолжительность технической процедуры и время, когда пользователи действительно не могут работать. Эти интервалы не всегда совпадают, но оба должны быть понятны бизнесу.
Если проверка занимает больше времени, чем планировалось, команда должна знать, какие действия обязательны, какие можно выполнить заранее и при каких условиях переключение необходимо остановить.
Именно поэтому критерии готовности определяют до начала миграции, а не в момент, когда предприятие уже ждёт запуска.
Почему нельзя просто вернуть пользователей на старую базу
До переключения старая система остаётся источником актуальных данных. После запуска новой системы ситуация меняется: в ней появляются новые документы, изменения и результаты операций.
Допустим, новая система работала два часа. Пользователи провели сотни документов, изменили остатки и запустили интеграционные процессы. Затем обнаружилась критическая ошибка.
Если просто вернуть подключения к старой базе, новые изменения могут остаться только в целевой системе.
Это уже не технический откат приложения. Это задача сохранения состояния бизнеса.
Два разных сценария восстановления
Если новая система ещё не принимала реальные изменения, возврат обычно проще: можно остановить переход и продолжить работу в старой системе, предварительно проверив отсутствие побочных эффектов.
Если новая система уже принимала запись, необходимо определить, как сохранить изменения, которые появились после переключения.
Возможны разные варианты: обратная синхронизация, специальная процедура переноса новых операций, восстановление из согласованного состояния или контролируемое устранение проблемы без немедленного возврата.
Выбор зависит от архитектуры и того, насколько обратимы преобразования данных.
Если несколько исходных сущностей были объединены в одну целевую, идентификаторы изменились или бизнес-правила стали другими, обратное преобразование может оказаться неоднозначным. Нельзя обещать безопасный откат, если механизм возврата изменений не предусмотрен и не проверен.
Кроме того, восстановление резервной копии не отменяет автоматически внешние действия, которые уже произошли: отправленные сообщения, платежи, задания и другие события.
Что необходимо проверить до переключения
План восстановления должен отвечать на конкретные вопросы:
- Кто принимает решение о возврате?
- Сколько времени отводится на обнаружение критичных проблем?
- Как сохраняются изменения, внесённые после переключения?
- Можно ли перенести их обратно без потери смысла?
- Какие операции нельзя безопасно повторить?
- Что произойдёт с интеграциями и внешними событиями?
- При каких условиях возврат возможен, а при каких требуется отдельное восстановление?
Ответы нужно подтвердить репетицией.
Если команда никогда не проверяла возврат после появления реальных изменений, у неё есть план на бумаге, но ещё нет доказанного механизма восстановления.
Надёжный план отката начинается не с вопроса, как включить старую систему, а с вопроса, как сохранить всё, что успело измениться после перехода.
Как не дать миграции перегрузить действующую систему
Если предприятие продолжает работать во время переноса, миграция становится дополнительной нагрузкой на инфраструктуру.
Чтение данных увеличивает нагрузку на диски и процессор. Передача данных создаёт нагрузку на сеть. Запись в целевую базу создаёт нагрузку на журналы транзакций, индексы и механизмы проверки ограничений. Параллельно продолжают выполняться пользовательские запросы и фоновые задания.
Поэтому нельзя ориентироваться только на скорость миграции.
Предположим, увеличение числа потоков повысило скорость загрузки с 150 до 250 МБ/с. Но одновременно время ответа критичных операций выросло с 200 мс до 1,5 секунды, а регламентные задания перестали укладываться в расписание.
Для проекта, который должен минимизировать влияние на производство, такое ускорение может оказаться неприемлемым.
Нужно контролировать не только пропускную способность миграционного процесса, но и его влияние на работающий бизнес.
В зависимости от архитектуры отслеживают:
- задержки критичных запросов;
- загрузку процессора и памяти;
- дисковую пропускную способность и задержки;
- сетевой трафик;
- количество активных соединений;
- ожидания блокировок;
- скорость обработки потока изменений;
- число повторных попыток и ошибок.
Показатели рассматривают совместно. Низкая загрузка процессора не означает, что система не упирается в диск или блокировки. Высокая загрузка процессора не обязательно требует остановки, если все критичные показатели остаются в допустимых пределах.
Для управления нагрузкой можно ограничивать скорость чтения, размер пакетов и число параллельных потоков. При необходимости миграция замедляется, чтобы рабочие операции сохраняли требуемое время ответа.
Это не потеря производительности миграции. Это управление риском для действующей системы.
Почему больше потоков не всегда означает быстрее
Сначала увеличение параллелизма действительно может повысить пропускную способность. Но после определённого предела потоки начинают конкурировать за одни и те же ресурсы.
Растут очереди, усиливается конкуренция за диски, увеличивается нагрузка на журналирование, а отдельные операции начинают ждать завершения других.
В результате дополнительный параллелизм перестаёт приносить пользу.
Поэтому оптимальную конфигурацию определяют измерениями. Важно знать не только максимальную скорость переноса, но и то, при каких параметрах она достигается и какой ценой для остальных операций.
Полноценная репетиция важнее красивого плана
Отдельные успешные тесты не гарантируют успешного завершения всей миграции.
Можно проверить загрузку таблицы, отдельно протестировать CDC и отдельно выполнить сверку. Но в реальном процессе эти этапы взаимодействуют: ошибки первоначальной загрузки влияют на сверку, отставание изменений влияет на переключение, а длительная проверка увеличивает окно простоя.
Поэтому репетировать необходимо весь процесс от начала до конца.
В идеале испытание включает первоначальную загрузку, обработку изменений, повторный запуск после сбоя, сверку, финальную синхронизацию, переключение и проверку критичных бизнес-сценариев.
Объём данных должен быть достаточным, чтобы измерить реальное поведение системы. Результаты теста на 1% базы нельзя автоматически переносить на весь объём: крупные таблицы, вложения и сложные зависимости могут изменить картину.
Отдельно проверяют неблагоприятные сценарии:
- обрыв соединения во время загрузки;
- перезапуск миграционного процесса;
- частичное применение пакета;
- временную недоступность целевой базы;
- накопление отставания CDC;
- расхождение на финальной сверке;
- невозможность завершить переключение в срок.
Для каждого сценария нужно понимать, что произойдёт с данными, как процесс восстановится и какие действия потребуются от оператора.
Если после сбоя команда не может определить, какие пакеты применены, а какие нет, миграционный процесс ещё не готов к промышленному запуску.
Какие результаты должна дать репетиция
По её итогам необходимо получить измеренные показатели:
- длительность первоначальной загрузки;
- устойчивую скорость переноса;
- скорость появления и применения изменений;
- время устранения отставания;
- длительность финальной синхронизации;
- время выполнения обязательных проверок;
- продолжительность переключения;
- время восстановления после типовых сбоев;
- количество необъяснённых расхождений.
Особенно важны последние два показателя. Высокая скорость не компенсирует отсутствие надёжного восстановления, а завершение переноса не означает успеха, если остаются необъяснённые расхождения в критичных данных.
Репетиция должна подтвердить не только то, что процесс работает, но и то, что его можно повторить по документации без импровизации.
Когда миграцию действительно можно считать завершённой
Фраза «данные загрузились, приложение открывается» не является критерием приёмки для системы, от которой зависят производство, склад или финансы.
До переключения необходимо определить условия, при которых новая система получает право стать основным рабочим контуром.
В их числе:
- все обязательные наборы данных перенесены;
- исключения документированы и согласованы;
- изменения обработаны до установленной конечной позиции;
- критичные связи и бизнес-инварианты проверены;
- отсутствуют необъяснённые расхождения, запрещающие запуск;
- необходимые интеграции и фоновые задания готовы;
- критичные операции успешно протестированы;
- производительность соответствует установленным требованиям;
- план восстановления проверен в предусмотренном объёме.
Для разных категорий данных могут действовать разные критерии. Например, требования к полноте финансовых документов могут быть строже, чем к отдельным техническим журналам. Но такие различия должны быть установлены заранее.
Нельзя менять правила проверки только потому, что обнаруженные расхождения мешают завершить проект.
После запуска контроль также не прекращается. В первые дни эксплуатации необходимо отслеживать критичные операции, ошибки интеграций и показатели, которые могут выявить скрытые дефекты переноса.
Если обнаружена систематическая ошибка преобразования, исправлять отдельные записи недостаточно. Нужно определить все затронутые данные, устранить причину и повторить проверки.
Результаты миграции должны оставаться проверяемыми и после запуска: это позволяет расследовать проблемы без необходимости заново восстанавливать весь ход проекта по разрозненным журналам.
Переносить нужно не объём. Переносить нужно достоверное состояние системы
У миграции есть две характеристики, которые легко перепутать: техническая завершённость и корректность результата.
Первая означает, что процесс выполнил предусмотренные операции. Вторая — что целевая система действительно получила необходимые данные в правильном состоянии.
Между ними нет автоматического равенства.
Успешная загрузка не доказывает отсутствие потерь. Совпадение количества записей не доказывает совпадение содержимого. Контрольные суммы не подтверждают правильность бизнес-логики. Пустая очередь изменений не гарантирует, что вся необходимая синхронизация выполнена корректно. А возможность запустить старое приложение не означает, что можно безопасно вернуться к прежнему состоянию после нескольких часов работы новой системы.
Каждый из этих вопросов требует своего механизма проверки.
Поэтому серьёзная миграция строится вокруг нескольких принципов.
- Первый — управляемость. У каждого этапа есть определённая исходная точка, измеримые результаты и понятные условия завершения.
- Второй — проверяемость. Полнота данных, правильность преобразований, связи и бизнес-инварианты подтверждаются независимыми проверками.
- Третий — восстановимость. Сбой не должен превращать процесс в неопределённость, когда невозможно понять, что уже применено и что необходимо повторить.
- Четвёртый — согласованность. Изменения, происходящие во время переноса, учитываются в рамках определённой стратегии, а переключение выполняется только после достижения требуемого состояния.
- Пятый — доказуемость. Решение о запуске принимается по результатам проверок, а не по ощущению, что всё прошло достаточно хорошо.
Есть важная особенность: чем больше система и чем сложнее её бизнес-логика, тем меньше пользы от попытки решить задачу одним универсальным инструментом. Надёжность появляется из сочетания архитектуры, измерений, проверок и заранее подготовленных сценариев восстановления.
При этом инженерный подход не означает стремления сделать процесс максимально сложным. Если систему можно перенести простой полной загрузкой с коротким согласованным простоем, нет необходимости строить избыточную инфраструктуру CDC. Если же предприятие не может остановить работу, а данные меняются постоянно, упрощение механизма синхронизации может обойтись значительно дороже его реализации.
Правильное решение — то, которое обеспечивает требуемые гарантии при приемлемых сроках, стоимости и риске.
Именно поэтому проект миграции начинается с вопросов о данных, изменениях, проверках и допустимом простое. Инструменты выбираются после того, как эти требования определены.
В конечном счёте предприятие переносит не терабайты. Оно переносит историю своей работы, текущие обязательства, связи между объектами и возможность продолжать бизнес без потери управляемости.
И успешной можно считать только ту миграцию, после которой это состояние не просто существует в новой системе, а его корректность подтверждена.
Как перейти со старой системы на новую без остановки работы
Почему данные в разных системах расходятся
Как синхронизировать данные между системами
Все инженерные материалы и экспертные статьи
Полный алфавитный справочник ИТ-терминов