Xpoint
   [напомнить пароль]

Soft RAID5

Метки: [без меток]
2008-07-08 22:20:41 [обр] Андрей Гора(0/29)[досье]

Ставим сервер до 24 1Tb дисков. Сервер серьезный, файлы крупные, чтения много, записи мало. По ряду причин есть желание поднять RAID5 soft средствами RedHat, а не hard.

Есть у кого опыт подобного решения?
Вопрос не о том, как реализовать, а о том, как такое решение работает. Или не работает. Или работает, но не является решением.

спустя 1 час 8 минут [обр] Давид Мзареулян(0/1003)[досье]
Мне кажется, пятёрку можно собирать только от сильной нехватки дисков. Задачи-то у этой машины какие? Раздавать или хранить?
спустя 10 часов [обр] Андрей Гора(0/29)[досье]
Раздача конечно будет, на несколько гигабит, но относительно общего объема кагбе и хранение получается.
спустя 3 часа 51 минуту [обр] Давид Мзареулян(0/1003)[досье]

Пятёрка очень медленна на запись (особенно если софтовая), не даёт никакого ускорения при чтении, да к тому же не идеально надёжна (её-там можно выключить в определённый момент цикла так, чтобы данные остались несогласованными).

Тогда как банальное зеркало даст вам кратное ускорение чтения, естественное резервирование и отсутствие оверхеда при записи.

спустя 3 часа 21 минуту [обр] Андрей Гора(0/29)[досье]

Давид, Вы это по своему опыту говорите или теоретически? Вообще говоря, возразить Вам нельзя, но слово медленно имеет зело широкое толкование. Я говорю о скоростях, на которых нормально отдается веб-контент. Для банковских операций это, наверное, медленно, для корпоративного архива - наверное быстро.

Зеркало на 24 диска будет эквивалентно стоить 5000 дол, RAID контроллер на 24 диска - 1700, полагаю, тут решение очевидно.

Сейчас пришла информация, что 4-х дисковый soft RAID5 на Opteron-ах тормозил.

Хотя есть вот это: http://linux.yyz.us/why-software-raid.html

И давайте рассмотрим, из чего состоит процесс записи в RAID5.

  1. Вычисление для страйпов XOR A ^ B = (A & !B) | (!A & B).
  2. Запись таблицы расположения страйпов.
  3. В соответствии с ней направление данных на диски.

И все! Так что тут делать харду? При многоядерных камнях они отлично на себя это возьмут.
На процессорах лежат только задачи обслуживать http соединения и рулить дисками.
Процессоры четырехядерные 5420, всего пара, но достаточно ли их под софт RAID5 на столько дисков - неизвестно, потому и спрашиваю. Экспериментировать тут, очевидно, довольно тяжеловесно.

спустя 47 минут [обр] Давид Мзареулян(0/1003)[досье]

Опыта эксплуатации raid5 на серверах у меня не было. Так что говорю с чужих слов (в конфе nginx-ru бывают обсуждения этих вопросов). Дома юзаю софтовый, тормозит.

У меня веб-контент отдаётся с зеркала из двух дисков. Когда по какой-то причине один диск вылетает, нагрузка машины подскакивает ОЧЕНЬ заметно.

спустя 1 минуту [обр] Давид Мзареулян(0/1003)[досье]
Ещё в ЖЖ есть сообщество ru_highload, можно там спросить тоже.
спустя 18 минут [обр] Андрей Гора(0/29)[досье]

Спасибо, отправился в конфу nginx и ru_highload.
А какая дома ось стоит?

Поскольку веб-задачи у нас с Вами схожие, могу поделиться опытом: часто запрашиваемые превью мы положили на небольшой SCSI, тогда основной диск практически отдыхает. Считывать ему не проблема - морока мотыляться по поводу каждого килобайта.

Вот еще для окончательного раздвоения личности:
http://www.sanitarium.net/golug/Linux_Software_RAID.html

спустя 3 часа 38 минут [обр] Давид Мзареулян(0/1003)[досье]

Дома, стыдно сказать, винда:) Но я её и не предлагаю использовать как пример, я слышал про тормознутость raid5 и в других операционках. При записи просто относительно много операций делается.

А про небольшой внешний диск Вы, конечно, правы, но у меня в машине пока ровно два дискоместа…

Powered by POEM™ Engine Copyright © 2002-2005