01.08.2011, 16:56 | #1 |
Talkers Junior
|
Офигенных умений тред
90 терабайтная гравицапа
Всем любителям собирать и коллекционировать - домашнее хранилище на 90 террабайт. Состав - две материнки, два блока питания по 1600 Вт, 5 контроллеров, 64 жестких диска и 40 карлсонов. Процесс сборки И так. Была задача воткнуть в один корпус 64 диска, после нескольких экспериментов был выбран вариант 4 полосы по 16 дисков. 64 цифра взята не от балды, 56 дисков у меня вмещают контроллеры + 6 дисков на маму супермикро + 1 сист. диск для роутера + 1 сист. диск для третьей машины (что на ней пусть останется тайной). После думок про размещение и продувку 64 дисков у меня получилось, что нужен ящик размером 48х60 сантиметров (про высоту позже). Качественно, равномерно и малошумно продуть такой ящик не сможет одиночный вентилятор любого размера. Просто потому, что он будет круглый или квадратный, а у меня размер 48х64 – значит останутся места и диски, которые будут продуваться хуже. Опять же у одного, но большого вентиля будет довольно крупный центр (место, где находится мотор), а значит и в этом месте будет некачественная продувка. Так же один большой вентиль будет иметь немаленький мотор, подумал я, глядя на домашний напольный вентилятор, а это означает, что придётся всю конструкцию делать больше по высоте. Вот так у меня и получилось, что пришлось ставить «толпу» мелких вентилей. Но всё же я промахнулся, взяв разные вентиляторы вниз и наверх … верхние оказались более производительными от 9 вольт и присасывают переднюю дверь. Про высоту. Тут всё просто, надо было оставить место для притока воздуха снизу + высота хардов умноженная на 2, чтобы их можно было вытаскивать, не откручивая маму или БП + высота самой большой мамы + возможность сверху в маму внедрить провода, типа видеокарты или USB + немного на зазор для вытяжки верхними вентиляторами. Получился почти метр высоты конструкции. Да, нижние карлсоны дуют вверх, продувая харды, верхние дуют тоже вверх, вытягивая воздух и тепло наружу, этакая аэродинамическая труба получилась. Шума от всей этой массы «мелких» получилось совсем немного, сидя и покуривая возле сервера можно общаться практически шепотом, люди, звонящие по телефону в этот момент, тоже не слышат его шума, но это просто как показатель уровня шума. Диски стоят вертикально, за это тоже народ критикует, типа горизонтальное расположение более правильное. Но я встречал (на сайтах) проф.решения серверных корпусов от той же супермикро, где харды стояли на боку, в таком корпусе их было 8 штук. Потому вопрос надёжности дисков из их такого расположения оставлю за скобками. Теперь о самой системе. В ней основная роль у мамы серверной супермикро и 5 рейдконтроллеров от хайпонт, воткнутых в эту маму. Всё это железо покупалось «по мере появления» денег на это. Потому такие разношёрстные контроллеры и стоят. 2240 это PCI-X на 16 САТА дисков, 2320 PCI-Ex – на 8 дисков, два 3520 PCI-Ex – по 8 дисков и 3540 PCI-Ex на 16 дисков. Пробы поставить 1 контроллер и дальше диски разводить мультипликаторами типа мне не понравились, сильно падала производительность. Да и геморрой с созданием ёмких рейдов мне совсем не понравился. Дальше, все харды на контроллерах объединены в рейды, один контроллер = один рейд5. На некоторых контроллерах есть возможность создать рейд6, но кроме лучшей надёжности у них есть проблемы со скоростью записи. Потому выбор и остановился на пятом рейде. Сейчас пытаюсь пробовать рейд50, избыточность, как у рейд6, надежность несколько хуже рейд6, но выше чем у рейд5, скорость чтения и записи довольно высокая … Пока для себя не решил на чём остановлюсь. Теперь к вопросу о том, что через несколько лет флешки будут на 90Тб … Так вот я начинал собирать такого плана сервер лет 3-5 назад, тогда харды были по 400-500Гб, из них и собирал, объём сервера, как вы понимаете был много меньше. Потом, по мере выхода более ёмких хардов и перехода коллекции с aviШЕК на двд и блюрей, покупались партии по 8 или 17 штук и менялись, так и дошёл до сегодняшних 48 WD Green в рейдах и остальное по мелочи. Пока нет денег заменить 8 полторашек сигейта на 8 двушек от вестерна. Сейчас анонсировали вестерны по 3Тб, со временем возможно перейду и на них, но только когда они придут к разумной цене и по наличию денег в карманах. Таким образом, возможный объём сервера увеличится может ещё на 40-50%%. Вестерны были выбраны после долгих чтений форумов и договора манибека, если не пойдут в рейд. Первая партия из 17 дисков работает с августа прошлого года. Вылеты дисков бывают, но в сравнении с сигейтами по 1,5Тб AS и ES серий это незаметные мелочи, сигейты покрываются бэдами с моментами первого запуска. Дома обязательно лежат 2-3 запасных диска, то есть при вылете диска в рейде он сразу же заменяется на такой же и запускается ребилд, отключая диск из винды, тем самым исключая лишние запросы к нему. Найти умерший диск несложно, в GUI контроллера вы видите № умершего, а в сервере они все подписаны, так что ничего не разбирая его легко найти и заменить. Такая конструкция не позволяет заменить любой диск без остановки полностью сервера, из-за скопления шлейфов в дальнем правом углу, но экономия денег требует чем-то жертвовать. Почему не было взято промышленное решение такой задачи! Первое это цена вопроса, ну сами посудите кроме всех этих, необходимых железок надо было взять ещё и стоечный шкаф, корзину под 50 хардов (видел на каком-то сайте в продаже такую под заказ) стоит совсем немало, размещение мамок в таком шкафу тоже диктует использование корпусов типа 3U и подобных. А главное шум … Вся эта конструкция рассчитана на работу в «серверной комнате», где никто не сидит, заходит редко и шум такой конструкции совсем не важен. У меня же этот агрегат стоит на балконе и при моей конструкции шум не выделяется на фоне шума из приоткрытого окна на балконе. Ну нет у меня возможности выделить для своего хобби отдельную комнату или кладовку. Дошла очередь до ФАНЕРЫ! )) Ну тут всё просто. Я не смог найти в наших краях спеца фрезеровщика, который сам нашёл бы большую болванку алюминия и выточил их неё по моим чертежам корзину под диски. А фанера проста в обработке в домашних условиях, поджечь её хардами практически нереально, вибрацию она гасит лучше любого металла, да и проклеить её виброгасящими резиновыми прокладками совсем просто. Возможно выглядит не слишком презентабельно, но внешним видом буду заниматься, когда полностью доведу конструкцию до ума, поставлю фильтры на входящий воздух (мыслю из жен. чулок-колготок), проложу и закреплю все провода, поселю внутрь третью маму и БП. Может и под хохлому распишу ))) Сам не смогу - детей попрошу! ))) Всё железо покупаю в Москве, через друзей, потом с проводниками поезда это едет ко мне. Манибек это самая заморочная задачка. Сам я в силу образования и професии не имею никакого отношения к компьютерам, программам, а так же к деревообработке. А потому я полный ламер в этих вопросах. От автора Делался этот "гравицап" для себя!!!! Работает круглосуточно, описание железа в отчёте. Харды собраны в рейды, в основном рейд5, ставлю эксперементы с рейд50. Это не первый опыт создания подобного из фанеры, до этого проработал 2,5 года, ничего не загорелось, да и не могло... харды выше 35 не нагреваются! Из фанеры по нескольким причинам: во-первых цена вопроса, хватило 1 листа фанеры за 500р, второе это то, что фанера лучше, чем железо гасит вибрацию от хардов, третье простота обработки в дом.условиях. Пер. стенка-дверь из орг.стекла, на фото почти не видна, а это значит, что продувка снизу вверх через харды идёт довольно сильная. Верх. вентиляторы сделаны по принципу двери, открывая доступ к внутренностям в случае необходимости. Ящик ещё не полностью доделан, снизу будут фильтры пыли или их подобие, пока не придумал, как лучше организовать. Харды в основном вестерны грин по 2Тб, тихие, холодные, достаточно надёжные. Пока потери инфы из-за неисправности хардов не случалось. Харды иногда умирают, но спасает рейд5. Больше, чем за год из 48 дисков в работе сдал по гарантии 3 штуки. Люди беспокоились о бесперебойники, он таки есть на 3.000Вт, загрузка у него 40-45%%. Зачем? … Почти половина объёма занята образами блюрей дисков с фильмами разных лет, немалая часть образы ДВД дисков. Для чего столько? – а у меня в любую секунду есть «право выбора» чтоже посмотреть !!! Шум от него совсем небольшой, сидя рядом с ним можно общаться практически шёпотом. Вентили на 1200об, крутятся ещё медленней, так как пашут от 9 вольт. Люди ещё пытались посчитать экономию по сравнению и проф.решениями … будьте честнее, любое проф. решение такого объёма будет намного дороже и многократно более шумное. Для беспокоящихся о «счётчике»: семья платит за эл-во, за всё потребляемое эл-во, вместе с сервером и эл.плитой – 2.500-3000р.. Ваш криворукий самоделкин. )) Младший брат 90 терабайтной гравицапы. Описание Или как хранить данные в тумбочке +) Да, да. Пытливые умы не остановить. Мне написал Александр, вдохновленный нашумевшей в рунете 90 терабайтной гравицапой, и решивший собрать свою, небольшую, но весьма забавную. Особенность конструкции в том что она очень хорошо масштабируется до практически неограниченных размеров, пока будет куда ставить тумбочки Прошу скептиков и критиков рассматривать эту конструкцию на с точки зрения особенностей строительства ядерных реакторов, а как забавную домашнюю поделку. Небольшой рассказ от автора: Собственно процесс создания растянулся где-то на месяц.За основу взята обычная старая потрепанная тумбочка из ДСП, каких в кулуарах любого офиса пруд пруди. Черные штучки, которые бросаются в глаза - это 3 дефлектора от 2104. Через них выходит весь воздух. Обычные рельсы на колесиках были заменены на шариковые полного выдвижения. Из-за особенностей крепления рельсы к горизинтальной полке - открыть можно или оба ящика одновременно или только нижний.Корпус тумбочки проклеен виброизоляционным материалом для снижения шума. Буферная зона в общем сделана для этого же. В принципе эту перегородку можно убрать. Смысл от этого не поменяется. Вентилятор нагнетает воздух в нижнюю камеру с ИБП и воздух через единственную щель возле жестких дисков будет выходить из этой камеры, НО... когда воздух попадает в объем из которого есть узкий выход - создается резонанс, частота которого пропорциональна размеру камеры где воздух циркулирует. По-этому для этой циркуляции было выделено всего 6см а не весь объем нижней камеры. Так низкое бубнилово было заменено на высокое урчалово :-))) Железо и еще кое что) 1) Конструкция получилась очень тяжелая и очень тихая. 2) Стоит это всё на кухне. По громкости равно холодильнику либхер :-) 3) Центробежный вентилятор от печки какой-то бюджетной иномарки. Барабан вентилятора больше чем у газелевской печки. Сам мотор подключен к 5в, но внутренними резисторами напряжение уменьшено до 3в. (регулятор можно увидеть на одной из фоток если присмотреться). Регулятором можно сделать 1.7в, 3в или 5в. Обычный поворотный переключатель от 2108. 4) Всего в системе 4 вентилятора: центробежный, 2 залмана7000 на процессорах (ими управляет материнка. обороты от 50% и выше по нагреву) и 1 мелкий вентилятор на 5в, подключенный к 3.3в. Его тоже не слышно. Температуру рабочей системы тоже можно найти на фотках. Жестких дисков не слышно, т.к. они полностью изолированы демпфированной передней стенкой. 5) Материнка Tyan Thunder K8W (S2885), 2 планки памяти по 1Гб с ЕСС. Контроллер SATA LSI 8x. Контроллер SCSI 320 LSI. На матери еще 4 sata. 2 Процессора AMD Opteron 285 (2.6ГГц 2ядра в каждом) 6) Система Ubuntu 10.04 server. Apache, ssh, samba, mail, mysql, ftp, transmission. + раздает инет на второй комп в другой комнате. На сервере помимо моего сайта крутятся еще 12 других. 7) Для тех, кто все понял или будет повторять: конструкция очень легко масштабируется как в ширину так и в высоту. Т.е. Можно взять широкую тумбочку и уложить на одной полке 2 матери с той же компоновкой узлов. Можно полку с жесткими дисками сделать глубже или выше. Диски поставить в 2 ряда вглубь или в высоту. Даже в моей гравицапе есть место для еще одного БП... Если например для 12 hdd одного окажется мало. 8) Схема охлаждения придумывалась очень долго и тщательно. Задача состояла в том, чтобы не просто где-то сделать вдув воздуха а где-то выдув, а целенаправленно обдуть все греющиеся части, не потерять потока и не создать его там где он не нужен. 9) Данную реализацию следует рассматривать как действующий макет хорошо скомпонованного корпуса, который (если будет время и желание) будет воплощен в другом материале. 10) Мысль о единственном, но центробежном вентиляторе пришла неожиданно как всё гениальное. Сидел в машине и подумал, почему автомобильная печка дает такой большой поток воздуха и так тихо работает ? Да еще и с фильтром на входе... Взято с basanovich точка livejournal.com/204858.html и с basanovich точка livejournal.com/163813.html |
01.08.2011, 17:19 | #2 |
Talkers Junior
Регистрация: 18.05.2010
Сообщений: 969
Сказал(а) спасибо: 1,147
Поблагодарили 168 раз(а) в 21 сообщениях
|
И главное, что стоит копейки..
Ребята, дайте 64 жд и 40 "карлсонов"
__________________
|
01.08.2011, 17:37 | #3 |
Talkers Junior
|
|
01.08.2011, 17:58 | #4 |
Talkers Member
|
нихера там шуму навернои электричество жрет мама не горюй
|
01.08.2011, 18:02 | #5 |
Talkers Junior
|
|
01.08.2011, 18:04 | #6 |
Talkers Junior
Регистрация: 27.12.2009
Сообщений: 415
Сказал(а) спасибо: 172
Поблагодарили 822 раз(а) в 62 сообщениях
|
"Собираем NAS своими руками" чтоле?
|
01.08.2011, 18:04 | #7 |
Talkers Junior
Регистрация: 20.06.2008
Сообщений: 1,706
Сказал(а) спасибо: 2,166
Поблагодарили 710 раз(а) в 96 сообщениях
|
|
01.08.2011, 19:02 | #8 |
Talkers Junior
|
Про пепелац не забудь.
|
01.08.2011, 19:20 | #9 |
Definition of Insanity
|
__________________
|
01.08.2011, 19:27 | #10 |
Talkers Member
|
я могу 18 терабайт себе на мать постаивить. пока только 5 террабайт. пока хватает.
__________________
Стрелковые аксиомы управления "А" 14. Лучший пистолет - это автомат. |
01.08.2011, 19:33 | #11 |
Talkers Junior
Регистрация: 06.03.2008
Сообщений: 234
Сказал(а) спасибо: 35
Поблагодарили 148 раз(а) в 20 сообщениях
|
Взлетная площадка в вашем доме )
|
01.08.2011, 20:07 | #12 |
Talkers Junior
Регистрация: 27.12.2009
Сообщений: 415
Сказал(а) спасибо: 172
Поблагодарили 822 раз(а) в 62 сообщениях
|
|
01.08.2011, 20:32 | #13 |
Talkers Member
|
Офигенное умение... поковыряй в носу,поломай палец...
Последний раз редактировалось Bogdaha; 01.08.2011 в 20:34. |
01.08.2011, 20:33 | #14 |
Talkers Junior
|
|
01.08.2011, 20:37 | #15 |
RG "Talkers PC Games"
|
Я могу смотреть "Зеленого слоника"/"Бойню блюющих куколок" и кушать.
__________________
| PS2 | PS4 | 3DS XL | GBA | |
01.08.2011, 20:55 | #16 |
Talkers Member
|
|
01.08.2011, 22:43 | #17 |
Talkers Junior
|
Боянчег же. Зимой на хабре было.
Добавлено через 2 минуты Олсо, там же мамка с SAS нужна, не?
__________________
|
01.08.2011, 23:01 | #18 |
Talkers Member
|
|
01.08.2011, 23:35 | #19 |
Talkers Junior
Регистрация: 18.05.2010
Сообщений: 969
Сказал(а) спасибо: 1,147
Поблагодарили 168 раз(а) в 21 сообщениях
|
__________________
|
02.08.2011, 00:12 | #20 |
Talkers Member
|
инопланетяне в треде
|
02.08.2011, 00:12 | #21 |
Talkers Junior
Регистрация: 30.01.2011
Сообщений: 1,591
Сказал(а) спасибо: 1,442
Поблагодарили 5,956 раз(а) в 886 сообщениях
|
__________________
|
02.08.2011, 00:49 | #22 |
Talkers Junior
|
Я по цене по подробнее плиз!
__________________
LINUX USER (LINUX SERVER) "Все говорят, что у меня /dev/hands криво и я всё делаю через /dev/ass. А у меня этих директорий вообще нет!" |
02.08.2011, 00:58 | #23 | |
Talkers Junior
|
__________________
Цитата:
|
|
02.08.2011, 01:20 | #24 |
Talkers Junior
Регистрация: 30.01.2011
Сообщений: 1,591
Сказал(а) спасибо: 1,442
Поблагодарили 5,956 раз(а) в 886 сообщениях
|
да не ничего же
Добавлено через 1 минуту у него же ноготь в сторону запястья повернуть.попробуй так сломай
__________________
|
02.08.2011, 01:23 | #25 | |
Talkers Junior
|
Ну вообще то не ноготь,а палец....
Если кости нет на пальце,его можно в любую сторону сложить.Никогда до этого не видел что ли?
__________________
Цитата:
|
|
Метки |
Офигенных, Тред, умений |
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Ржавых корыт тред (ex Хороших обоев тред) | Antex | /dev/null | 2291 | 24.04.2014 01:58 |
Предположений тред.. | Gritsay | /dev/null | 35 | 22.04.2011 14:49 |
Сумасшедших умений тред! | Майкл | /dev/null | 743 | 11.03.2011 19:47 |