RAID и RAID-контроллеры

Замена диска в RAID и Rebuild: порядок действий и контроль

Как безопасно заменить отказавший диск в аппаратном RAID, проверить совместимость накопителя и проконтролировать rebuild до состояния Optimal.

13 минут
абстрактная иллюстрация восстановления RAID-массива
При замене диска в аппаратном RAID сначала сверяют статус массива в интерфейсе RAID-контроллера с конкретным физическим отсеком и серийным номером накопителя. Затем устанавливают совместимый диск в подтверждённый слот или назначают его по процедуре контроллера и проверяют, что rebuild действительно начался. Если слот не идентифицирован, статусы противоречивы или появился дополнительный отказ, замену не продолжают.

Не извлекайте диск только по мигающему индикатору

В деградированном массиве извлечение исправного члена может превратить доступный массив в недоступный. Индикация на корзине — лишь один из признаков: её обязательно сопоставляют со slot/port/enclosure в контроллере, моделью, серийным номером или WWN накопителя.

Что проверить до извлечения диска

Откройте штатный интерфейс управления именно этого контроллера: предзагрузочную утилиту, BMC сервера, веб-интерфейс или поддерживаемую утилиту ОС. Названия полей и действия у Dell PERC, HPE Smart Array, Broadcom/LSI MegaRAID и Adaptec SmartRAID зависят от модели, прошивки и версии утилиты. Не переносите последовательность кликов или смысл статуса из одного семейства в другое без проверки документации.

  • Состояние каждого логического диска: Optimal/OK, Degraded, Offline либо иной статус контроллера. Деградированный режим допустим для замены только пока отказ укладывается в возможности конкретного RAID-уровня и раскладку зеркал.
  • Уровень RAID, состав массива и точный идентификатор проблемного физического диска: enclosure, slot или bay, port, serial number, WWN, модель и ёмкость.
  • Статус диска: Failed, Predictive Failure, Missing, Offline или обозначение производителя. Зафиксируйте также время и текст последних событий.
  • Есть ли уже задействованный Hot Spare, идёт ли rebuild и включена ли политика Copyback. Если rebuild уже выполняется на spare, не прерывайте его и не начинайте перенос данных на новый диск в рамках этой процедуры.
  • Состояние кэша контроллера и его защиты, если они предусмотрены: например, BBU, суперконденсатор или CacheVault. Неработающая защита может изменить политику записи и заметно ухудшить производительность.
  • Актуальность резервной копии и возможность восстановления критичных данных. RAID повышает доступность, но не заменяет резервное копирование: см. «Что такое RAID и зачем он нужен: простое объяснение без мифов».

Ситуации, когда замену нужно остановить

Не извлекайте и не назначайте диски при втором отказе в RAID 5, отказах сверх допустимых для уровня, нечитаемых оставшихся дисках, неизвестном соответствии слота и накопителя, противоречивых статусах или обнаруженной Foreign Configuration. Сохраните снимок экрана, журнал событий и сведения о конфигурации контроллера, затем переходите к диагностике отказа диска RAID либо к восстановлению RAID. Не очищайте foreign-конфигурацию и не принуждайте диск в Online/Good без установленной причины.

Как точно найти диск Failed или Predictive Failure

Сначала составьте соответствие «контроллер → корзина → физический диск». В интерфейсе контроллера найдите enclosure ID и slot/bay проблемного диска, затем сверяйте их с маркировкой на дисковой корзине. Если поддерживается Locate/Identify, включите его только для выбранного накопителя и убедитесь, что загорелся индикатор именно на нужном отсеке. До извлечения повторно сравните номер слота с серийным номером или WWN на наклейке диска либо в инвентаризации.

Predictive Failure не равен немедленному извлечению

Статус Predictive Failure означает признаки вероятного отказа, а не всегда фактическую недоступность. Решение о срочной замене принимают с учётом политики площадки, резервной копии, состояния массива, событий контроллера и окна работ. Если диск ещё участвует в массиве, не извлекайте его, пока не установлены слот и безопасный порядок замены.

Как выбрать диск для замены RAID

Совпадения маркетинговой ёмкости недостаточно. Контроллер должен видеть у нового диска не меньше доступных логических блоков — LBA, — чем требуется для заменяемого члена массива. Два накопителя с одинаковой маркировкой, например «4 TB», могут иметь разное число доступных блоков; диск с меньшей фактической ёмкостью контроллер обычно не примет в массив.

Проверка совместимости replacement-диска

ПараметрЧто требуетсяЧто может отличаться или требует проверки
Доступная ёмкостьНе меньше ёмкости, доступной контроллеру у заменяемого члена.Больший диск обычно можно использовать, но лишняя ёмкость не добавится массиву без отдельной операции расширения.
Интерфейс и подключениеСовместимость с контроллером, backplane и отсеком: SAS, SATA либо NVMe.SAS и SATA, а также NVMe, нельзя считать взаимозаменяемыми: правила определяет конкретная платформа и корзина.
Форм-факторПодходящий отсек, салазки, высота и тип подключения.2,5- и 3,5-дюймовые диски могут требовать разных корзин и адаптеров; M.2 имеет отдельные ограничения платформы.
Формат секторовПоддержка существующим массивом, контроллером, его прошивкой и ОС.512n, 512e и 4Kn не всегда совместимы между собой. Не меняйте формат «на пробу» во время аварийной замены.
Тип носителяТип, разрешённый контроллером и политикой массива: HDD или SSD.Смешивание HDD и SSD, а также SSD с разными характеристиками выносливости и задержки может быть запрещено либо нежелательно.
СертификацияЖелательна проверенная производителем сервера или контроллера модель.Неподдерживаемый диск может определяться, но иметь статус Unsupported, не участвовать в rebuild или работать с ограничениями.

Статусы нового диска зависят от семейства контроллера

Unsupported означает, что контроллер или платформа не считает накопитель полностью поддерживаемым для текущей конфигурации или операции. Доступные действия и точную причину уточняют по журналу и документации конкретной модели. Unconfigured Good/Ready у ряда контроллеров обычно обозначает доступный для назначения диск, а Unconfigured Bad — диск, который контроллер не считает пригодным; это не универсальные определения. Не стирайте метаданные и не меняйте статус вручную только ради запуска rebuild: сначала проверьте модель, интерфейс, секторный формат, ёмкость, прошивку и события контроллера.

Когда допустима горячая замена RAID

Горячая замена допустима, только если её поддерживают одновременно сервер, конкретная корзина, backplane, RAID-контроллер, тип накопителя и текущая конфигурация. Поддерживаемый фронтальный hot-swap-отсек не доказывает, что любой внутренний диск можно извлечь при включённом сервере.

  • Выполняйте замену на работающем сервере, если документация платформы прямо подтверждает hot-swap для этого отсека и типа диска, а массив остаётся доступным в пределах своей отказоустойчивости.
  • Если диск подключён внутренним кабелем без hot-swap, документация не подтверждает замену под питанием, это системный M.2 или другой внутренний накопитель либо есть сомнения в состоянии подключения, штатно завершите работу ОС, выключите сервер и выполните требуемое сервисной инструкцией обесточивание перед вскрытием корпуса.
  • Не путайте доступность ОС с безопасностью извлечения: диск может быть виден системе, но его физическое отключение под питанием не поддерживаться.

Порядок замены диска в RAID 1, RAID 5, RAID 6 и RAID 10

Замена отказавшего диска в доступном аппаратном RAID

Этот порядок применяют, когда массив ещё доступен, число отказов не превышает допустимое, а проблемный накопитель и его слот подтверждены. Конкретные пункты меню, автозапуск rebuild и необходимость ручного назначения replacement-диска проверяют по документации контроллера.

  1. 1
    Зафиксируйте исходное состояние
    Запишите модель контроллера, версию прошивки, RAID-уровень, состояние каждого логического и физического диска, enclosure/slot, серийный номер проблемного диска, наличие Hot Spare, ход фоновых задач и последние события. Проверьте резервную копию. Не выполняйте параллельно миграцию RAID-уровня, расширение ёмкости или другие изменения конфигурации.
  2. 2
    Подтвердите допустимость продолжения
    Для RAID 1 допустим отказ одного члена зеркала. В RAID 5 допустим один отказ; при второй ошибке остановитесь. В RAID 6 допустимы два отказа, но новый сбой во время rebuild требует особой осторожности. В RAID 10 несколько отказов могут быть пережиты только при сохранности хотя бы одного диска в каждой зеркальной паре. Подробнее о границах уровней — в статье «Как выбрать RAID 0, 1, 5, 6 или 10: ёмкость и отказоустойчивость».
  3. 3
    Идентифицируйте физический отсек
    Сопоставьте enclosure и slot из контроллера с маркировкой на шасси. Используйте Locate/Identify, если функция есть, и повторно сверьте серийный номер или WWN. Если соответствие не удалось подтвердить двумя независимыми признаками, не извлекайте диск.
  4. 4
    Проверьте replacement-диск
    До установки проверьте интерфейс, форм-фактор, доступную ёмкость, секторный формат и совместимость с контроллером и корзиной. Предпочтителен такой же поддерживаемый тип накопителя. Не рассчитывайте, что диск большей заявленной ёмкости обязательно будет принят: контроллер сравнивает фактически доступные LBA.
  5. 5
    Извлеките и установите диск
    При подтверждённой hot-swap-поддержке извлеките только идентифицированный диск и установите replacement в подтверждённый совместимый отсек. Исходный слот нужен не всегда: некоторые контроллеры допускают иной совместимый слот и ручное назначение. Если замена выполняется после штатного отключения, включите сервер и дождитесь обнаружения диска контроллером.
  6. 6
    Назначьте диск только документированным способом
    Контроллер может автоматически начать rebuild, предложить назначить replacement-диск или потребовать отдельного подтверждения в интерфейсе. Используйте только действие, предусмотренное для вашей модели. Если ранее активировался Hot Spare и rebuild уже идёт на нём, не переносите rebuild на новый диск и не запускайте Copyback в этой процедуре.
  7. 7
    Подтвердите запуск rebuild
    Проверьте не светодиод нового диска, а состояние виртуального диска, состояние replacement-диска и список фоновых операций в интерфейсе контроллера. Признаки запуска: статус Rebuild/Reconstruct/Recovering или аналогичный, отражение операции в задачах и изменение процента при последующих проверках. Светодиод активности сам по себе не подтверждает rebuild.
  8. 8
    Наблюдайте до Optimal
    Регулярно проверяйте прогресс и журнал событий до завершения операции. Массив считается восстановленным только после штатного статуса Optimal/OK, отсутствия активной операции rebuild и корректного состояния всех членов. После этого убедитесь, что Hot Spare, если он должен быть выделен, имеет ожидаемое состояние по политике площадки.

Нужен ли исходный слот: Hot Spare и Copyback

Новый накопитель не всегда нужно ставить в исходный отсек. Это зависит от схемы сервера, контроллера, доступных портов, назначения replacement-диска и политики автоматической подстановки. Безопасное правило: используйте слот, который контроллер и документация платформы подтверждают как совместимый, и выполняйте предусмотренное назначение диска в массив.

Если контроллер уже подключил Hot Spare и начал rebuild, массив может восстанавливаться на резервном диске, а исходный слот оставаться пустым. Copyback — отдельная операция возврата данных со spare на постоянный заменяющий диск; её поведение зависит от политики. Не запускайте Copyback во время аварийной замены без отдельной утверждённой процедуры.

Как контролировать RAID rebuild и почему срок неизвестен

Смотрите в интерфейсе контроллера статус логического диска, статусы всех физических дисков, активные фоновые задачи и журнал событий. В зависимости от модели интерфейс может показывать процент, скорость или прогноз времени; отсутствие скорости либо ETA не означает, что rebuild не идёт. Надёжнее сравнить состояние и процент в несколько моментов времени, а также убедиться, что в журнале нет ошибок чтения, сбросов устройства и сообщений о приостановке операции.

  • Состояние массива: обычно Degraded во время rebuild и Optimal/OK после завершения, но точные названия зависят от контроллера.
  • Состояние replacement-диска: rebuilding, online/member либо термин производителя; статус должен соответствовать участию в восстановлении.
  • Прогресс и задача rebuild, если их предоставляет интерфейс; фиксируйте время и изменение процента.
  • События контроллера: ошибки чтения на оставшихся дисках, timeout, сбросы, ошибки корзины или backplane.
  • Состояние кэша и его защиты: деградация кэша способна менять производительность и поведение записи.

На вопрос «raid rebuild сколько длится» нельзя дать универсальный ответ. Срок зависит от ёмкости и производительности дисков, RAID-уровня, числа членов, текущей нагрузки, приоритета rebuild, ошибок чтения, Patrol Read, Consistency Check и иных фоновых операций. Многие контроллеры восстанавливают весь требуемый диапазон члена или виртуального диска; фактически записанный объём сокращает срок только в реализациях и режимах, где поддерживается восстановление занятых областей. Не планируйте окно по паспортной скорости диска или по ETA без запаса.

Во время rebuild запас устойчивости снижен

Нагрузка на оставшиеся диски возрастает, а производительность может снизиться. RAID 5 не имеет запаса на второй отказ; RAID 6 и RAID 10 имеют ограничения, определяемые соответственно числом уже потерянных дисков и раскладкой зеркал. При новых ошибках чтения, отключениях дисков или ухудшении статуса массива не ускоряйте восстановление принудительными действиями: сохраните данные контроллера и переходите к диагностике или восстановлению.

Если rebuild не начался или новый диск не принят

Проблема

Новый диск установлен, но rebuild не начинается

Возможные причины

  • Контроллер ожидает ручного назначения replacement-диска или подтверждения операции.
  • Новый диск имеет недостаточную фактическую ёмкость, неподдерживаемый интерфейс, формат секторов или модель.
  • Диск установлен не в поддерживаемый отсек, не виден из-за проблемы корзины, кабеля или контроллера.
  • Активен Hot Spare, rebuild уже идёт на нём либо политика контроллера запрещает автоматическое назначение.

Решение

Сначала перечитайте журнал и проверьте модель, прошивку, доступные LBA, интерфейс, секторный формат, enclosure/slot и статус Hot Spare. Затем используйте только документированное для данной модели действие назначения replacement-диска. Не очищайте конфигурацию, не стирайте метаданные и не переводите диск принудительно в Good/Online. При признаках неисправности корзины, кабеля или контроллера остановитесь и перейдите к диагностике отказа диска RAID.

Термины в статье

4Kn — формат накопителя с логическим и физическим сектором 4096 байт, без эмуляции 512-байтных секторов. Требует поддержки со стороны всего тракта ввода-вывода.
Горячая замена — извлечение и установка поддерживаемого компонента без отключения питания сервера. Непрерывность сервиса требует избыточности и корректной процедуры.
Состояние отказоустойчивого RAID-массива, потерявшего часть избыточности, но сохраняющего доступ, пока сочетание отказов допустимо для его уровня и раскладки.
Дисковая корзина — узел шасси с отсеками для установки нескольких накопителей и организации их подключения к питанию и контроллеру либо HBA.
Зеркалирование — поддержание одинаковых копий данных на двух и более накопителях или узлах хранения. В RAID оно обеспечивает избыточность и лежит в основе RAID 1 и RAID 10.
Логический диск — блочное устройство, которое RAID-контроллер или программная RAID-подсистема предоставляет хосту как отдельный накопитель.
Миграция RAID-уровня — преобразование существующего массива в другой RAID-уровень без выгрузки данных, если эту операцию поддерживает контроллер.
Накопитель энергии высокой мощности, применяемый для кратковременного питания кэша RAID-контроллера. При сбое питания он сохраняет данные до записи во флеш-память.
Физический диск — отдельный HDD, SSD или иной накопитель, распознанный RAID-контроллером как член массива либо как независимое устройство.
Adaptec SmartRAID — семейство аппаратных RAID-контроллеров Microchip для SAS/SATA, а в новых tri-mode-моделях — также для NVMe-накопителей.
Аккумуляторный модуль, поддерживающий питание энергозависимого кэша RAID-контроллера при сбое питания до восстановления питания и записи данных на диски.
CacheVault — технология защиты кэша записи RAID-контроллера, сохраняющая во флеш-память подтверждённые хосту, но ещё не записанные на диски данные при потере питания.
Consistency Check — фоновая проверка согласованности избыточности RAID: зеркальных копий либо рассчитанной и записанной чётности; расхождения могут исправляться.
Copyback — операция RAID-контроллера, копирующая данные с задействованного hot spare на диск замены, после чего spare снова становится резервным.
Семейство RAID-решений Dell для серверов PowerEdge: аппаратные контроллеры PERC H и программные PERC S. Возможности и совместимость зависят от модели и поколения платформы.
Failed — статус физического накопителя, который RAID-контроллер признал отказавшим и перестал использовать для штатного ввода-вывода в составе массива.
Заранее подключённый резервный накопитель RAID-системы, автоматически задействуемый для rebuild отказоустойчивого массива при отказе совместимого рабочего диска.
Семейство аппаратных и программных RAID-решений HPE для локальных SAS/SATA-накопителей и, в поддерживаемых tri-mode-конфигурациях, NVMe.
M.2 — спецификация компактного разъёма и модулей расширения, определяющая размеры и ключи; накопители M.2 могут использовать интерфейс SATA или PCIe.
Семейство аппаратных RAID-контроллеров Broadcom, которые объединяют накопители в массивы и предоставляют ОС логические диски, обрабатывая RAID на самом контроллере.
NVMe — протокол обмена командами с энергонезависимыми накопителями, оптимизированный для параллельного ввода-вывода; локальные NVMe-SSD обычно подключаются по PCIe.
Offline — зависящий от реализации статус накопителя или виртуального диска RAID: первый исключён контроллером из работы, второй недоступен хосту.
Predictive Failure — диагностический статус накопителя, указывающий на признаки вероятного отказа по SMART или данным контроллера до фактической недоступности диска.
Технология объединения нескольких накопителей в логические блочные устройства для повышения производительности и/или отказоустойчивости в зависимости от RAID-уровня.
RAID 1 — уровень RAID с зеркалированием данных на двух или более дисках. Полезная ёмкость равна ёмкости наименьшего участника, а доступ сохраняется, пока исправна хотя бы одна копия.
Комбинированный уровень: чередование (RAID 0) поверх зеркальных пар (RAID 1). Сочетает высокую скорость и отказоустойчивость, отдавая под избыточность половину ёмкости.
RAID 5 — уровень RAID с чередованием данных и распределённой чётностью, выдерживающий отказ одного диска. Требует минимум трёх дисков.
Уровень RAID с чередованием данных и двойной распределённой чётностью. Выдерживает отказ любых двух дисков; минимум четыре диска.
Устройство или модуль, который формирует RAID-массивы из накопителей и предоставляет ОС логические диски, управляя размещением данных, отказами и восстановлением избыточности.
RAID-уровень — схема размещения данных и избыточности по накопителям массива, определяющая полезную ёмкость, отказоустойчивость и характеристики ввода-вывода.
Процесс восстановления избыточности массива после замены отказавшего диска: контроллер вычисляет и записывает на новый диск недостающие данные из остальных дисков.

Вопросы по теме

Все вопросы и ответы

Можно ли менять диск только по мигающему индикатору?

Нет. Индикатор на корзине — только вспомогательный признак: в деградированном массиве извлечение исправного диска может сделать массив недоступным. Перед извлечением сопоставьте индикацию с enclosure, slot или port в интерфейсе контроллера и повторно проверьте серийный номер либо WWN накопителя. Если соответствие не подтверждено, замену прекращают.

Нужно ли сразу менять диск со статусом Predictive Failure?

Зависит от ситуации. Predictive Failure означает признаки вероятного отказа, но не всегда фактическую недоступность диска. Решение о срочной замене принимают с учётом политики площадки, актуальности резервной копии, состояния массива, событий контроллера и окна работ. Если диск ещё состоит в массиве, его нельзя извлекать до подтверждения слота и безопасного порядка замены.

Что делать, если в RAID 5 отказал второй диск?

Нельзя продолжать замену или назначать новый диск. RAID 5 допускает только один отказ, поэтому второй сбой выходит за пределы его отказоустойчивости. Сохраните снимок состояния, журнал событий и сведения о конфигурации контроллера, затем переходите к диагностике или восстановлению. Не очищайте Foreign Configuration и не переводите диски принудительно в Good или Online.

Можно ли поставить в RAID диск большего объёма?

Да, обычно можно, если контроллер видит у нового накопителя не меньше доступных LBA, чем у заменяемого диска. Однако лишняя ёмкость не увеличит размер массива без отдельной операции расширения. Одинаковая маркетинговая маркировка объёма не гарантирует совместимость: также проверяют интерфейс, секторный формат, форм-фактор и поддержку контроллером.

Можно ли менять любой внутренний диск на работающем сервере?

Нет. Горячая замена допустима только при подтверждённой поддержке со стороны сервера, корзины, backplane, RAID-контроллера, типа накопителя и текущей конфигурации. Фронтальный hot-swap-отсек не означает, что внутренний диск можно отключать под питанием. Для дисков на внутреннем кабеле, системных M.2 и сомнительных подключений сервер штатно выключают и обесточивают по сервисной инструкции.

Можно ли принудительно перевести RAID-диск Offline в Good?

Нет, не без установленной причины и документированной процедуры для конкретного контроллера. Принудительная смена статуса может скрыть проблему с диском, корзиной, кабелем или конфигурацией и ухудшить ситуацию в массиве. Сначала нужно проверить журнал событий, соответствие слота и диска, состояние Hot Spare, совместимость replacement-диска и наличие Foreign Configuration.