RAID и RAID-контроллеры

RAID Degraded, Offline или Failed: диагностика отказа дисков

Как трактовать статусы RAID, отличить отказ диска от проблемы корзины или подключения и безопасно собрать данные до замены.

13 минут
абстрактная иллюстрация диагностики RAID-массива
Статусы Degraded, Offline, Failed и Predictive Failure нельзя трактовать по одному слову: сначала установите, к какому объекту относится сообщение — физическому диску, логическому диску, массиву или контроллеру. Degraded обычно означает потерю части избыточности и нередко сохраняет доступ к данным, но не гарантирует его. До извлечения накопителя нужно сопоставить слот с серийным номером или WWN, проверить журнал контроллера и исключить неисправность пути подключения.

Аварийная карта статусов RAID

СтатусВозможный объектТипичный смыслРискБезопасное первое действие
DegradedЛогический/виртуальный диск, массивЧасть избыточности утрачена, но объект может оставаться доступнымСледующий отказ или ошибка чтения могут превысить возможности RAIDЗафиксировать состояние членов массива и определить причину
Predictive Failure / PFAОбычно физический дискКонтроллер или накопитель обнаружил признаки вероятного отказаДиск может работать нестабильно; избыточность может быть уже сниженаИдентифицировать накопитель по нескольким признакам и подготовить замену
FailedОбычно физический диск; в некоторых интерфейсах — иной объектКонтроллер признал диск отказавшим или исключил его из штатного I/OМассив может быть деградирован или недоступенПроверить, не совпадает ли событие с ошибками корзины, кабеля или экспандера
OfflineФизический диск либо логический/виртуальный дискДля диска — исключён из работы; для виртуального диска — недоступен хостуВозможна недоступность данных или превышение допустимого числа отказовОстановиться, сохранить конфигурацию и журналы, не менять метаданные

Сначала определите объект статуса

Один и тот же термин в интерфейсах RAID-контроллера, BMC и ОС может описывать разные объекты. Аппаратные контроллеры Dell PERC, HPE Smart Array и Broadcom/MegaRAID по-разному называют виртуальные диски, физические накопители и их переходы состояний. В программном RAID mdadm источником состояния служат массив /dev/mdX, его члены и журнал ядра; термины контроллеров к нему напрямую не переносятся.

  • Контроллер: сообщает о собственном состоянии, подключённых enclosure и обнаруженных устройствах. Его ошибка не доказывает отказ конкретного диска.
  • Физический диск: отдельный HDD или SSD. Для него типичны Failed, Predictive Failure, отсутствие в inventory, ошибки чтения, тайм-ауты и сбросы соединения.
  • Логический или виртуальный диск: устройство, которое контроллер отдаёт ОС. Термины Degraded и Offline часто относятся именно к нему. См. определение логического диска.
  • Массив mdadm: Linux показывает состояние массива, например число активных устройств, отсутствующие члены и процесс синхронизации. Буква устройства /dev/sdX не является устойчивой идентификацией диска.

Почему статус без объекта недостаточен

Offline у виртуального диска означает, что хост не получает блочное устройство. Offline у физического диска может означать исключение накопителя контроллером. Это не команда извлечь диск: сначала нужно выяснить, какой именно объект показан в интерфейсе и почему он получил этот статус.

RAID Degraded: когда массив обычно остаётся доступен

Деградированный режим не равен немедленной потере данных: при штатной работе и отсутствии дополнительных повреждений логический диск часто остаётся доступным. Однако запас избыточности данных уже частично или полностью израсходован. На итог влияют уровень RAID, расположение отказов, ошибки чтения на оставшихся дисках, потеря связи с членом массива и политика конкретного контроллера.

Типичное поведение при отказе членов массива

СхемаКогда доступ обычно сохраняетсяКогда virtual/logical drive может стать Offline
RAID 5После отказа одного члена массиваКогда недоступен второй член либо дополнительные ошибки приводят к исключению ещё одного члена или не позволяют восстановить запрошенные данные; точное поведение зависит от контроллера
RAID 6После отказа до двух членов массиваКогда недоступен третий член или дополнительные ошибки не позволяют восстановить данные; точное поведение зависит от контроллера
RAID 10Пока в каждой зеркальной группе остаётся хотя бы одна доступная копияКогда одна зеркальная группа потеряла все копии. В распространённой схеме с двухдисковыми зеркальными группами два отказа в разных группах могут быть допустимы, а два отказа в одной группе — нет

RAID 5: потеря двух дисков

Для обычного RAID 5 второй одновременно недоступный член обычно превышает допустимый уровень отказа. Если RAID 5 уже Degraded, не извлекайте другой диск «для проверки», не переставляйте диски местами и не запускайте операции, меняющие конфигурацию. Если virtual disk уже Offline, переходите к материалу «Восстановление RAID», а не к процедуре обычной замены.

Predictive Failure: предупреждение, а не приговор

Predictive Failure или PFA обычно относится к накопителю и означает, что контроллер либо сам диск заметил признаки вероятной неисправности. Источником могут быть диагностические данные S.M.A.R.T., журналы ошибок, события протокола SATA или SAS. Набор учитываемых признаков зависит от модели HDD/SSD, прошивки и контроллера: не существует одного универсального SMART-атрибута, который одинаково доказывает отказ всех дисков.

Такой статус не доказывает полную неработоспособность: диск может продолжать отвечать, а предупреждение может появиться задолго до фактического отказа. Но при появлении статуса Predictive Failure нужно оценить текущую избыточность, повторяемость ошибок и наличие событий по пути подключения. После подтверждения неисправности именно накопителя планируют контролируемую замену.

Что собрать до любых изменений

Фиксация состояния RAID

Собирайте данные только командами просмотра. Сохраните вывод с датой, пока состав дисков и статусы не изменились.

  1. 1
    Зафиксируйте уровень и состояние логического диска
    Запишите имя виртуального или логического диска, RAID-уровень, состояние, число членов, наличие hot spare и признаки текущего Rebuild. Отдельно отметьте, доступен ли том ОС и есть ли ошибки ввода-вывода в журнале.
  2. 2
    Снимите inventory физических дисков
    Для каждого члена массива сохраните enclosure ID и slot, модель, серийный номер, WWN при наличии, интерфейс, состояние и роль в массиве. Для SATA и SAS это важнее имени /dev/sdX, которое может измениться после перезагрузки или повторного обнаружения устройства.
  3. 3
    Сохраните журнал контроллера и системный журнал
    Ищите время первых событий и последовательность: drive removed/inserted, link error, PHY reset, timeout, ошибки чтения, потерю связи с enclosure. Формулировки зависят от производителя, но серия событий на нескольких дисках часто важнее единичного статуса.
  4. 4
    Проверьте путь подключения
    Сопоставьте проблемные слоты с одной дисковой корзиной, кабелем, портом контроллера или SAS-экспандером. Уточните, не было ли работ с питанием, кабелями, обновлением прошивки или перезагрузкой непосредственно перед инцидентом.
  5. 5
    Оцените S.M.A.R.T. только как дополнительный источник
    Если контроллер и схема подключения позволяют получить данные, сохраните доступный SMART-отчёт. Отсутствие SMART через аппаратный RAID не опровергает отказ, а предупреждение SMART само по себе не объясняет одновременное исчезновение нескольких дисков.

Команды просмотра для аппаратного RAID

Синтаксис зависит от версии утилиты, модели контроллера и ОС. Перед запуском сверяйте справку именно своей версии. Приведённые команды предназначены для чтения состояния; они не должны менять конфигурацию RAID.

Для StorCLI: подробное состояние контроллера 0, виртуальных дисков, физических дисков и enclosure. Номер `/c0` замените на фактический. В некоторых поставках утилита может называться `perccli` и использовать совместимый синтаксис.
storcli /c0 show all
Для StorCLI: inventory всех enclosure и слотов контроллера 0. Используйте для сверки enclosure/slot, модели, серийного номера и состояния диска.
storcli /c0 /eall /sall show all
Для HPE Smart Array и ssacli: подробная конфигурация контроллеров, логических и физических дисков. В ряде окружений используется имя `hpssacli`; доступные поля зависят от версии SSA.
ssacli ctrl all show config detail
Журнал ядра текущей загрузки: помогает увидеть тайм-ауты, reset, потерю устройства и ошибки драйвера. Не заменяет event log RAID-контроллера.
journalctl -k -b

Проверка программного RAID mdadm

В mdadm нет виртуального диска аппаратного контроллера: массив представлен устройством /dev/mdX, а ОС обычно видит его физические члены напрямую. Degraded здесь чаще проявляется как уменьшенное число активных устройств, отсутствующие члены или состояние массива в /proc/mdstat.

Показывает массивы md, активные устройства и ход синхронизации. Сохраните вывод до каких-либо действий.
cat /proc/mdstat
Подробное состояние конкретного массива. Замените `/dev/md0` на свой массив; команда только читает метаданные и показывает роли устройств.
mdadm --detail /dev/md0
Помогает сопоставить устройство ОС с серийным номером и WWN. Не выбирайте диск для извлечения только по имени `/dev/sdX`.
lsblk -o NAME,SERIAL,WWN,MODEL,SIZE,TYPE,MOUNTPOINTS

Симптомы: диск отказал или проблема в корзине и подключении

Проблема

Один physical disk имеет статус Failed или Predictive Failure

Возможные причины

  • Деградация или отказ HDD/SSD
  • Локальная проблема слота, контактов или линии подключения
  • Реже — ошибка контроллера при интерпретации телеметрии

Решение

Сверьте enclosure/slot, модель, серийный номер или WWN, статус в inventory и временную линию событий. Ошибки носителя, внутренняя диагностика диска и повторяющийся PFA в сочетании с отсутствием ошибок общего пути поддерживают версию отказа накопителя. Стабильная привязка только к одному слоту этого не доказывает: link error, PHY reset, timeout и исчезновение устройства могут быть вызваны слотом или подключением. Если данных недостаточно или статус меняется после повторного обнаружения, не считайте диск подтверждённо неисправным; диагностику слота и пути выполняйте по сервисной процедуре. После подтверждения накопителя переходите к материалу «Замена диска в RAID и Rebuild».

Проблема

Одновременно пропали несколько дисков

Возможные причины

  • Неисправность корзины, backplane, кабеля или SAS-экспандера
  • Проблема питания корзины
  • Ошибка порта RAID-контроллера, контроллера или его прошивки
  • Реже — действительно независимый одновременный отказ нескольких накопителей

Решение

Сохраните конфигурацию и журналы, сопоставьте все затронутые слоты с доменами подключения и ограничьте прикладную запись, если это возможно для сервиса. Не извлекайте диски по одному наугад: это способно превратить временно потерянные пути в фактическую потерю членов массива. Диагностику корзины, кабелей, питания и контроллера передайте инженеру с доступом к схеме подключения и журналам.

Проблема

Virtual disk Offline или RAID 5 деградирован после второго сбоя

Возможные причины

  • Превышен допустимый уровень отказа RAID
  • Дополнительная ошибка чтения или потеря связи с дисками
  • Неудачная последовательность событий при ранее существовавшей деградации

Решение

Не выполняйте принудительный Online, очистку конфигурации, ручной запуск rebuild, импорт/очистку foreign configuration и перестановку дисков. Снимите диагностические данные и используйте отдельную процедуру «Восстановление RAID».

Что нельзя делать при нестабильных статусах

Не выбирайте накопитель по номеру слота, букве /dev/sdX или миганию индикатора без подтверждения его назначения. Не меняйте диски местами, не очищайте RAID-конфигурацию, не переводите объекты принудительно Online и не запускайте rebuild до фиксации конфигурации. Особенно рискованны эти действия, когда несколько дисков исчезли одновременно или затронуты слоты одной корзины.

Можно ли извлекать диск Predictive Failure или Offline

Извлечение допустимо только после подтверждения нужного физического накопителя и поддержки горячей замены сервером, корзиной и контроллером. После извлечения число недоступных членов не должно превышать возможности RAID-уровня; отдельно проверьте, нет ли других нестабильных дисков и уже идущего rebuild. Для активного диска со статусом Predictive Failure соблюдайте предписанный производителем порядок подготовки к замене: некоторым контроллерам требуется сначала штатно вывести диск из работы. Для Offline сначала установите, относится ли статус к физическому или логическому диску и не вызван ли он общей проблемой подключения.

  1. Сверьте enclosure и slot из интерфейса контроллера с физической маркировкой корзины.
  2. Сверьте модель и серийный номер либо WWN с inventory и, если возможно, с данными на наклейке диска.
  3. Проверьте журнал: нет ли одновременных ошибок у соседних слотов, одного кабеля, expander или питания.
  4. Используйте Locate/UID LED только после того, как убедились в его назначении для конкретного контроллера и слота. Индикатор подтверждает выбранный контроллером слот, но не заменяет сверку серийного номера.
  5. Убедитесь, что это не Offline виртуального диска и что массив не находится в сценарии восстановления.

Почему нельзя ориентироваться на устройство ОС

Имена /dev/sdX назначаются ядром при обнаружении устройств и могут измениться после перезагрузки, сброса линка или повторного сканирования. За аппаратным RAID ОС нередко видит только логический том, а не отдельные члены массива. Надёжная привязка — enclosure/slot вместе с серийным номером или WWN и журналом контроллера.

Что можно сделать самостоятельно, а когда остановиться

СитуацияДопустимые действияКогда нужна передача диагностики
Один диск Predictive Failure, массив доступен, других ошибок пути нетСобрать inventory и журналы, подтвердить диск по нескольким признакам, подготовить штатную заменуСерийный номер не удаётся сопоставить, статус нестабилен или предупреждения есть у нескольких дисков
Один physical disk Failed, logical drive DegradedЗафиксировать состояние и убедиться, что отказ локален для одного накопителя; затем следовать процедуре заменыЕсть link/reset/timeout на соседних дисках или неясно, к какому объекту относится Failed
RAID 10: потеря дискаОпределить зеркальную группу и убедиться, что её вторая копия доступна; подтвердить физический дискНедоступны оба члена одной зеркальной группы либо топология зеркал неясна
RAID 6: отказ дисковПри одном или двух подтверждённых независимых отказах — фиксировать данные и действовать строго по процедуре контроллераОтказов больше двух, статусы изменяются или есть признаки общей проблемы корзины/пути
Virtual disk Offline, RAID 5 потерял два диска, несколько дисков исчезли одновременноТолько сбор данных, сохранение журналов и ограничение записи при возможностиТребуется процедура восстановления и диагностика инфраструктуры; не выполнять обычную замену

После того как неисправный накопитель подтверждён, используйте пошаговый материал «Замена диска в RAID и Rebuild: порядок действий и контроль». Он охватывает выбор замены, горячую замену, запуск и контроль rebuild; не подменяйте эту процедуру случайными командами из интерфейса контроллера.

Термины в статье

Реализация RAID, в которой специализированный контроллер формирует логические диски и выполняет операции массива. Наличие и защита кэша зависят от модели.
Горячая замена — извлечение и установка поддерживаемого компонента без отключения питания сервера. Непрерывность сервиса требует избыточности и корректной процедуры.
Состояние отказоустойчивого RAID-массива, потерявшего часть избыточности, но сохраняющего доступ, пока сочетание отказов допустимо для его уровня и раскладки.
Дисковая корзина — узел шасси с отсеками для установки нескольких накопителей и организации их подключения к питанию и контроллеру либо HBA.
Логический диск — блочное устройство, которое RAID-контроллер или программная RAID-подсистема предоставляет хосту как отдельный накопитель.
RAID, реализованный ОС или другим программным стеком хоста без отдельного аппаратного RAID-контроллера. Использует вычислительные ресурсы сервера.
Физический диск — отдельный HDD, SSD или иной накопитель, распознанный RAID-контроллером как член массива либо как независимое устройство.
Семейство RAID-решений Dell для серверов PowerEdge: аппаратные контроллеры PERC H и программные PERC S. Возможности и совместимость зависят от модели и поколения платформы.
Failed — статус физического накопителя, который RAID-контроллер признал отказавшим и перестал использовать для штатного ввода-вывода в составе массива.
Заранее подключённый резервный накопитель RAID-системы, автоматически задействуемый для rebuild отказоустойчивого массива при отказе совместимого рабочего диска.
Семейство аппаратных и программных RAID-решений HPE для локальных SAS/SATA-накопителей и, в поддерживаемых tri-mode-конфигурациях, NVMe.
Семейство аппаратных RAID-контроллеров Broadcom, которые объединяют накопители в массивы и предоставляют ОС логические диски, обрабатывая RAID на самом контроллере.
Offline — зависящий от реализации статус накопителя или виртуального диска RAID: первый исключён контроллером из работы, второй недоступен хосту.
PFA — анализ предвестников отказа оборудования по диагностическим данным. Он формирует предупреждение, чтобы заменить компонент до фактической неисправности.
Predictive Failure — диагностический статус накопителя, указывающий на признаки вероятного отказа по SMART или данным контроллера до фактической недоступности диска.
Комбинированный уровень: чередование (RAID 0) поверх зеркальных пар (RAID 1). Сочетает высокую скорость и отказоустойчивость, отдавая под избыточность половину ёмкости.
RAID 5 — уровень RAID с чередованием данных и распределённой чётностью, выдерживающий отказ одного диска. Требует минимум трёх дисков.
Уровень RAID с чередованием данных и двойной распределённой чётностью. Выдерживает отказ любых двух дисков; минимум четыре диска.
Устройство или модуль, который формирует RAID-массивы из накопителей и предоставляет ОС логические диски, управляя размещением данных, отказами и восстановлением избыточности.
RAID-уровень — схема размещения данных и избыточности по накопителям массива, определяющая полезную ёмкость, отказоустойчивость и характеристики ввода-вывода.
Процесс восстановления избыточности массива после замены отказавшего диска: контроллер вычисляет и записывает на новый диск недостающие данные из остальных дисков.
S.M.A.R.T. — технология самодиагностики накопителей, собирающая показатели состояния и ошибок. Она помогает выявлять признаки деградации диска до отказа.
SAS — последовательный интерфейс и набор протоколов SCSI для подключения накопителей, поддерживающий адресацию устройств, экспандеры и обычно двухпортовое подключение дисков.
Устройство коммутации SAS, расширяющее число подключаемых накопителей относительно числа портов контроллера. Передаёт SAS-трафик между инициаторами и целевыми устройствами.
SATA — последовательный интерфейс подключения HDD, SSD и оптических приводов; в обычной прямой схеме один порт контроллера соединён с одним накопителем.

Вопросы по теме

Все вопросы и ответы

Можно ли извлекать диск со статусом Predictive Failure?

Сначала убедитесь, что Predictive Failure относится именно к физическому накопителю, а не к другому объекту. Сверьте enclosure и slot в интерфейсе контроллера с маркировкой корзины, затем подтвердите модель и серийный номер либо WWN по inventory и, если возможно, по наклейке диска. Проверьте журнал контроллера: одновременные link error, PHY reset, timeout или потеря связи у соседних слотов могут указывать на проблему корзины, кабеля, expander или питания, а не самого диска.

Перед извлечением проверьте текущую избыточность массива, наличие других нестабильных дисков и уже идущего Rebuild. После извлечения число недоступных членов не должно превышать возможности RAID-уровня. Использовать Locate/UID LED можно только после подтверждения соответствия контроллера и слота: индикатор показывает выбранный слот, но не заменяет сверку серийного номера. Не выбирайте накопитель только по имени /dev/sdX, номеру слота или миганию индикатора.

Что означает Virtual Disk Offline?

При статусе Virtual Disk Offline не выполняйте принудительный Online, очистку конфигурации, ручной запуск Rebuild, импорт или очистку foreign configuration, а также перестановку дисков. Такие действия могут изменить метаданные и усложнить восстановление.

Сначала сохраните конфигурацию RAID и журналы контроллера и ОС. Зафиксируйте RAID-уровень, состояние логического диска, число членов, наличие hot spare, признаки текущего Rebuild и ошибки ввода-вывода. Затем снимите inventory физических дисков с enclosure ID, slot, серийными номерами и WWN. По журналам проверьте последовательность событий: ошибки чтения, timeout, link error, PHY reset, drive removed/inserted и потерю связи с enclosure.

Если RAID 5 уже потерял два диска либо несколько накопителей исчезли одновременно, обычную замену диска выполнять нельзя. Следует ограничить прикладную запись, если это возможно, и переходить к процедуре восстановления RAID с диагностикой корзины, кабелей, питания, expander и контроллера.

Может ли RAID 10 работать после потери одного диска?

Да, обычно может, если во всех зеркальных группах остаётся хотя бы одна доступная копия. При потере одного диска нужно определить его зеркальную группу и убедиться, что второй её член доступен. Недоступность обоих дисков одной группы делает логический диск недоступным.

Сколько отказов дисков выдерживает RAID 6?

RAID 6 обычно сохраняет доступность после отказа до двух членов массива. Третий недоступный диск или дополнительные ошибки чтения могут привести к недоступности логического диска. Если статусы дисков меняются или несколько накопителей исчезли одновременно, нужно исключить общую проблему пути подключения.

Почему нельзя выбирать диск для замены по /dev/sdX?

Потому что имя /dev/sdX не является постоянным идентификатором накопителя. Оно может измениться после перезагрузки, сброса линка или повторного обнаружения устройства. За аппаратным RAID ОС часто видит только логический том, поэтому диск нужно подтверждать по enclosure/slot, серийному номеру или WWN.

Отсутствие SMART означает, что диск исправен?

Нет. Через аппаратный RAID SMART может быть недоступен из-за контроллера или схемы подключения, и это не опровергает отказ накопителя. SMART следует использовать как дополнительный источник вместе со статусом контроллера, inventory дисков и журналами ошибок пути подключения.