Форум   Статьи   Новости   Файлы   Bugtraq   Сниффер   Друзья   О Клубе
  , 12:44   #1
Новичок
 
Регистрация: 08.02.2015
Сообщений: 5

Репутация: -1 / 0
По умолчанию Файловая система для HPC

Доброго всем вечера!

Преамбула:
Есть десяток узлов (core i7-990), соединенных ethernet. На всех крутятся задачи газовой динамики. Используется метод контрольных объемов. То есть проблем с праллелизацией нет.
Пробовали объединить все машины в некое подобие кластера. Но понятное дело, передача по ethernet съедает всё, так как вся информация пишется на винчестер управляющего узла по NFS.
Правда был один момент: если после разбиения геометрии на домены по числу вычислительных узлов раскидать сетки по винтам, принадлежащим этим узлам, то в процессе счета записи по NFS через Ethernet не происходило. Это значительно ускоряло счет. Приходилось собирать все вместе для просмотра результатов, но это уже не так страшно.

В связи с этим вопрос:
существует класс файловых систем, специально разработанных для HPC систем: lustre, glusterfs/ Правильно ли я понял, что данные ФС позволяют создавать общий раздел/каталог, но файлы/каталоги видимые вместе, физически располагаются на различных устройствах. И при записи узлом информации в раздел/каталог информация физически пишется только на локальное устройство?
 
Пользователь вне форума    
Наши Спонсоры
  , 22:12   #2
Новичок
 
Регистрация: 18.01.2016
Сообщений: 1

Репутация: 0 / 0
По умолчанию

Цитата:
вся информация пишется на винчестер управляющего узла по NFS
Какой NFS? Для HPC лучше в принципе не использовать v4, обходиться 3 плюс поиграться параметрами (vers=3,rsize=32768,wsize=32768 протокол tcp). Хорошим решением будет включить jumbo фреймы (MTU=9000).

Цитата:
Правильно ли я понял, что данные ФС позволяют создавать общий раздел/каталог
Натягивая сову на глобус, да. Но есть нюансы. Кластерная ФС используется с SAN, распределенного типа люстры как с SAN, так и с отдельными нодами, к которым могут быть подключены DAS. Вообще, делать вычисления без нормальной хранилки -- печальбеда. Люстру ставить на таком количестве машин смысла нет, рекомендую посмотреть в сторону ceph (может давать как блочное устройство, так и ФС и даже RESTful api, насколько помню). Степень защиты данных выбираешь сам, получается что-то типа рейда, размазанного по нодам (привет, EMC Isilon). При записи пишется на несколько нод, плюс по сетям еще метаданные будут шастать.

Ставить такое и задействовать локальные диски... ну не знаю, путь самурая, конечно. Нет возможности поставить какую-нибудь слабую машинку с дисками и несколькими сетевухами, воткнутыми в свич в один транк на LACP, чтоб канал ширше был?
 
Пользователь вне форума    
  , 21:43   #3
Новичок
 
Аватар для 0per
 
Регистрация: 01.01.2013
Сообщений: 24

Репутация: 11 / 0
По умолчанию

похоже человек страдает от отсутствия распределенной файловой системы - люстра ему нужна...
 
Пользователь вне форума    
 

Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
[Статья] PHP File Inclusion - От ошибки до шелла [email protected]@KEP Сайты, Форумы, CMS 24 28.06.2017 01:29
Pаздача от Kontika Kontik Раздачи 248 19.09.2015 17:47
[FAQ] Как написать Winlock на Delphi (для новичков) apposs Delphi 4 14.05.2013 18:31
Cекретные коды мобильных телефонов TIXAN Сотовый фрикинг 3 10.11.2010 18:49
Cracking для карапузов grom4ik7 Новичкам 1 28.09.2009 21:10



Часовой пояс GMT +2
Powered by vBulletin® 3.x.x Copyright ©2000 - 2012, Jelsoft Enterprises Ltd.

Copyright © 2008 - 2013 «HPC» Реклама на сайте Правила Форума Пользовательское соглашение Работа на сайте
При копировании материалов ставьте ссылку на источник
Все материалы представлены только в ознакомительных целях, администрация за их использование ответственности не несет.