Enterprise RAID дома от нечего делать

для раздела Блоги
NB! Воды, слюней и буков много, но в конце будет картинка про RAID6 из восьми двухтерабайтных дисков! И немножко слов про более мелкие массивы...

Однажды потеряв информацию на жестком диске не по собственной глупости или легкомыслию, а из-за причин форс-мажорных я стал параноиком. Уже много лет в корпусе моего ПК нет ни одного диска, который бы не был частью массива и ни одного массива, который не имел бы резервирования.

Сначала данное правило, написанное потом и слезами обходилось достаточно дёшево - небольшие по объёму диски, массивы без контроля четности, интегрированные или простенькие дискретные контроллеры... но с недавних пор стало откровенно не интересно апгрейдить процессор или видеокарту т.к. старых хватает для моих повседневных нужд и выходить из строя основа системы не собирается, а покупать новые железки исключительно из спортивного интереса уже просто спортивно не интересно... да и все домашние уже обеспечены моими "обносками". Старшее поколение играет в казуальные игры на разогнанном Opteron 185 с водяным охлаждением и парой 8800GTS в SLI, жена "донашивает" плоды увлечения маленькими HTPC, а младшее поколение прониклось плодами моего увлечения бесшумными ПК.

Решение проблемы оказалось на поверхности. Устраивают качественные характеристики - нужно увеличить количественные и поработать над формой.

Первым в ряду работы над формой и количеством стал монитор. Хороший матовый монитор диагональю 24" и с соотношением сторон 16х10 - вымирающий вид, но меня устраивает.

Потом был корпус, который выбирался с оглядкой на то, что дисков в нем будет много. В итоге нашлась модель с доступной ценой, компактными размерами и девятью отсеками под устройства размера 5,25". Сразу к корпусу были куплены три корзины, пара занимающих 3 отсека 5,25" и вмещающих по 5 устройств SATA/SAS 3,5" и одна занимающая 2 отсека 5,25" и вмещающая 3 устройства SATA/SAS 3,5". Итого, корпус достаточно стандартных размеров (E-ATX, но не Full Tower) позволил вместить и нормально охладить тринадцать жестких дисков и один оптический привод. Вкупе с блоком питания денег на данное решение было потрачено достаточно много, а значит и удовлетворение было большое! А тот факт, что корпус пришлось дорабатывать (спиливать ограничительные выступы между отсеками 5,25") только добавил радости.

Потратить около полутысячи долларов на нормальный аппаратный RAID контроллер с КЭШем, батарейкой и прочими пропеллерами долго не представлялось случая – либо жаба давила, либо контроллеры были так или иначе спорными. Но в один прекрасный момент стало понятно, что все мои дешевые и предсказуемые Promise TX4650/4660 массивы с контролем четности тянут откровенно плохо, а объём массива RAID10 упирается в смешную по моему мнению цифру четыре терабипа (или как их там зовут?) или в православные три целых и шестьдесят две сотых терабайта. А это во-первых мало, во-вторых, в случае наличия нескольких массивов требует обеспечения большой скорости передачи данных между ними для комфортной работы и в третьих, у меня же тринадцать дырочек под диски, это сколько ж десятых рейдов то надо? Да и не делится тринадцать на четыре..

Пробовал решать данную проблему посредством доступного, достойного и редкого в наших краях контроллера Areca ARC 1220 (на европейском и отечественном рынке доступен под брендом Tekram) в пользу которого говорят и стандартные провода и цена и компактные размеры и приличная производительность в RAID6, но с BBU под него есть некоторые проблемы, да и SAS он не умеет. Так что, этот контроллер рассматривался исключительно как запасной вариант наряду с некоторыми почти HBA контроллерами от Promise (TX8660 и пр.) и контроллерами на чипах LSI, а все аппаратные контроллеры на восемь и более портов с XOR процессором, КЭШем и BBU стоили куда дороже психологически страшной суммы 500 долларов. Именно этот факт и останавливал от покупки большого числа ёмких дисков для построения большого массива. Диски кстати тоже стоят не дёшево – прикиньте сколько стоит быстрый диск на 2 терабайта, а потом помножьте цену на 6, на 8, на 10…

Решение пришло как обычно откуда не ждали – один интернет-магазин, называть который я не считаю нужным т.к. он, во-первых и так рекламируется на данном ресурсе, а во-вторых там такого всё равно больше нет, предлагал своим посетителям купить диковинную позицию «RAID-контроллер IBM ServeRAID 8s» за смешные три с половиной тысячи рублей. Не долго думая я сделал заказ. Как потом оказалось, этот контроллер оказался перемаркированным Adaptec ASR4805SAS в варианте с объемом КЭШа 256 мегабайт. Кабелей в комплекте не было, официальным адаптеком контроллер формально не поддерживался. Серия 4ххх контроллеров вообще стала пробой пера компании в создании SAS контроллеров – относительно дорогие, относительно не быстрые, безотносительно не перекрывающие рынок (нет дешевых и многопортовых моделей) и пр. Но за сотню-то баксов и 8s – контроллер!

Провода были куплены в другом интернет магазине по цене около пятидесяти долларов за пару – приехали вместе с контроллером в одном синеньком фольфцвагене с надписью EMS на боку.

Проблема покупки жестких дисков оказалась проблемой. Брать дешевые и медленные WD Caviar Green не хотелось т.к. брендовый пожилой контроллер мог и не знать об их особенностях. Дорогие WD Caviar Black хотелось еще меньше, т.к. было решено купить разом восемь штук номер к номеру. Seagate подорвал к себе доверие известной проблемой, именуемой «Муха CC» как в одиннадцатой, так и в двенадцатой серии. Samsung тоже не рассматривался.
Теоретически отсавалось два варианта. Один, очень дорогой - Hitachi Deskstar A7K2000 был отметен сразу. Второй – доступный по цене Hitachi Deskstar 7K2000 (HDS722020ALA330) оказалось просто невозможно купить перед новым годом. Все поставщики пеняли на таможню, дилеров и др. и пр. Но в итоге буквально перед новым годом десять одинаковых дескстаров лежали у меня на столе. Вообще, было куплено двенадцать дисков… Спросите нафига? Новогодняя премия, тринадцатая зарплата, возврат НДФЛ, желание порадовать себя любимого и природное транжирство… да и вапще, прикольно же! Но два из них имели другую версию прошивки.

Какой именно RAID строить и как расположить диски по корзинам было решено давно и быстренько был построен RAID массив шестого уровня из восьми двухтерабайтных дисков, форматированная емкость которого составила чуть менее одиннадцати терабайт. Два диска из восьми используются для сохранения контрольных сумм. Массив сохранит работоспособность при выходе из строя двух дисков. Spare диска нет по причине того что во-первых закончились внутренние порты контроллера. А во-вторых корпус не резиновый. Два запечатанных диска из той же коробки что и участники массива лежат в сейфе… на всякий случай. Не зря я в начале говорил о паранойе.

Жить без BBU было в принципе можно, к тому же контроллер позволял активировать кэш записи даже без батарейки, что при наличии у меня UPS было не так рисковано, но решение проблемы опять пришло откуда не ждали! Один Русский интернет-магазин с Гонконгскими корнями, торгующий аккумуляторами для ноутбуков, телефонов, фотоаппаратов и пр. имел в разделе «Аккумуляторы для телефонов» устройство с длинным названием «Аккумулятор для adaptec 2218300-R, 4800SAS, 4805SAS, ABM-600, Serial Attached SCSI RAID Controllers» и ценой около двадцати долларов с доставкой… через неделю данное устройство лежало передо мной на столе и после имплантации его в контроллер оказалось что хоть его и не возможно закрепить в штатные отверстия, контроллер батарею видит, заряжает, а батарея держит КЭШ как минимум 4 часа. Дольше не проверял, но драйвер говорит о пяти сутках. BBU подвязал к плате на капроновые стяжки.

Когда уже казалось что больше хотеть некуда – серьезный контроллер, серьёзный массив, контроль двухбайтовых ошибок, батарея… мне стало неуютно держать системный раздел на HBA контроллере и… через один известный иностранный аукцион был куплен… второй экземпляр контроллера IBM ServeRAID 8s, да не простой, а с оригинальной батареей! Хочу заметить что и первый и второй контроллеры и оригинальная батарея были новыми в оригинальной упаковке. Цена второго контроллера почти в полтора раза превышала цену первого, но поскольку продавец оказался Россиянином, то с доставкой не было никаких проблем. Кстати, у него такие контроллеры еще есть… просто зайдите на сайт самого известного иностранного интернет аукциона, введите в поиск марку контроллера и ищите продавца – земляка наших двух последних президентов. Никакой рекламы!

В итоге хочу сказать что, проявив некоторую сноровку можно (и нужно!) обновить прошивку контроллера до последней версии с сайта IBM, драйвер тоже лучше использовать от IBM, а не от Adaptec, а вот вместо менеджера от IBM желательно использовать ASM последней версии от Adaptec.

Из отрицательных эмоций от использования данной системы хочется отметить три момента:

  • Поддержка от IBM отказывается консультировать пользователя без предъявления скана гарантийного талона. В отличии от того же HP, господам (а в основном дамам) из IBM не достаточно уникального номера устройства. Базы комплектующих они не ведут, только базу номеров ПК и Серверов. Зато готовы часами говорить ни о чем по межгороду с клиентами в регионах.
  • Длительная инициализация массива на используемых мной двухтерабайтных дисках. Длительная – это около пяти минут. После инициализации всё работает как часы. С другими, мене ёмкими SATA и SAS дисками такой проблемы нет. Консультацию получить не удалось (см. п.1), обновить прошивку дисков на бендированную от IBM сходу не удалось, а рисковать дисками не хочется. Так что, еженедельную перезагрузку провожу на пять минут дольше, чем раньше.
  • Вентиляторы на обоих контроллерах очень быстро (в течение недели) вышли из строя. Не остановились, но начали шуметь. Понятно… контроллеры выпущены в сентябре дветысячиседьмого. Заменил на дешевенькие медные кулеры от Titan для видеокарт.

В итоге систему в контексте статьи вербально можно описать так:
HDD:

  • 2*Hitachi Deskstar 7K2000 HDS722020ALA330 RAID1 (2*2000@2000 GB 32 MB bufer SATA-II NCQ)
  • 3*Fujitsu MBA3300RC RAID1E (3*300@450 GB 16 MB bufer SAS NCQ)
  • 8*Hitachi Deskstar 7K2000 HDS722020ALA330 RAID6 (8*2000@12000 GB 32 MB bufer SATA-II NCQ)

CD/DVD:
SCSI and Raid:
CASE/POWER:
Визуально всё выглядит так:




Картинки кликабельны. Скриншотить массивы второго контроллера не стал.
RAID 6 в двух корзинах снизу, остальная пара массивов в верхней.

Если кому-то будет интересно - сделаю еще скриншоты производительности, но за вычетом кэша скорость массива составляет более двухсот мегабайт и на чтение и на запись. Время доступа тоже хорошее. Т.к. в системе практически отпала необходимость копировать с диска на диск, скорость перестала быть важной величиной. Замер скорости чтения производился без сотановки web и ftp серверов, torrent клиента и остановки smb шар.



Обсудить в конференции

Telegram-канал @overclockers_news - это удобный способ следить за новыми материалами на сайте. С картинками, расширенными описаниями и без рекламы.
Оценитe материал

Возможно вас заинтересует

Популярные новости

Сейчас обсуждают