Распределеное вычисление

Автор
Сообщение
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Добрый день/вечер,
назрел вопрос, надеюсь "бывалые люди" подскажут, собственно:
Есть сцена, требующая не менее 6 гб оперативы (на 4-х Гб вылетает макс/vray, на той же машине с вытянутыми планками),
в сцене много деталей, и рендерится долго,
хотелось бы ускорить данный процесс средствами vray distributed render.
Вопрос заключается в следующем, если на Master ноде сцена требует 6гб, и они есть на ней, а Slave имеют всего лиш 2гб (обычная офисная машина) что будет на слейвах? Макс будет вылетать, или "все" отправляться на Slave не будет?
Сцена - не анимация, 1 кадр.
Интересует данный вопрос в "возможной" связке [64Gb RAM Master] + [x10 Slave x8Gb RAM] +[NAS по iSCSI с текстурами (ну это другой вопрос)]
Заранее очень благодарен,
хотелось бы получить развернутый ответ с экономите уйму времени и сил чтоб это проверить в жизни.
На сайте c 07.10.2010
Сообщений: 1709
Минск
Ну вы должны знать что вирей производит расчёт по следующему алгоритму: построение БСП дерева, расчёт вторички, расчёт первички, финализация. Так вот первых 2 пункта в случае сетевого рендера выполняются на каждой машине пиндивидуально, а вот расчёт ИМ и финализация - с использованием всех возможных вычислительных потоков. Какой отсюда вывод? Расчитать ЛК на самой мощной машине, сохранить в файл, после чего в настройках сделать так чтобы все остальные машины не считали ЛК, а брали его из файла. В файле он будет весить значительно меньше т.к. пройдёт префильтрацию, что отсечёт часть семплов. Для дополнительного сохранения памяти дефолт джеометри можно перевести из режима статик в динамик, но это замедлит рендер.
Ну и судя по тому что у вас макс вылетает, то он у вас скорее всего 32битный. Мой вам совет - поставьте 64битную систему и забудете о проблеме вылета.
На сайте c 10.12.2009
Сообщений: 5680
Kalevan
Vray proxy используете? Помогает сильно сократить объём потребной памяти.

И ещё был такой урок, рекомендую меня выручало пару раз в своё время:
http://www.render.ru/books/show_book.php?book_id=651  
На сайте c 06.02.2012
Сообщений: 598
Quote:
Есть сцена, требующая не менее 6 гб оперативы (на 4-х Гб вылетает макс/vray, на той же машине с вытянутыми планками),
в сцене много деталей, и рендерится долго,
хотелось бы ускорить данный процесс средствами vray distributed render.
Мне думается не имеет смылса использовать distributed render из за проблем с оперативной памятью. Урок вам в помощь :
http://ru.renderstuff.com/optimalnye-nastrojki-vray-raycasting-cg-urok/  
На сайте c 10.12.2009
Сообщений: 5680
Kalevan
Quote:
Мне думается не имеет смылса использовать distributed render из за проблем с оперативной памятью. Урок вам в помощь :
http://ru.renderstuff.com/optimalnye-nastrojki-vray-raycasting-cg-urok/  

О, отличный урок кстати! Обьясняется как оно работает а не просто предлагают готовые решения.
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Спасибо большое всем за ответы.
Макс стоит x64.
Памяти потребляет всегда много, так как в основном объекты в сцене это растения, каждое по 250-500к поликов. Используя дефолтные настройки irridance map в very low рендер в среднем порядка 2-3 часов, если ставить нормальные настройки, то время затягивается на ночь (low/medium).
В среднем проекты прим. 2-7 Га площади, засаженные порядка 200-300 видами различных растений, proxy конечно помогает, но всеравно.
Собствнно появилась возможность сделать апгрейд на новую s2011 платформу + немного старых машин, и все это в стойку с прицелом на ДР. Вот собствнно и хотелось бы определиться, можно ли будет человечески пользоватся ДР, или подождать/доложить и взять xeon Е7 платформу на 2 камня.
Подскажите, схема описанная во втором посте, будет работать если разница в оперативах составит 64:8гб (теория).
Спасибо за урок, попробую на следующем проекте.
На сайте c 06.02.2012
Сообщений: 598
Quote:
Обьясняется как оно работает а не просто предлагают готовые решения.
Вот вот! Этот сайт один из ничтожного количества толковых сайтов, которые все объясняют. В подавляющем же большинстве на остальных тупой пересказ настроек без объяснений что такое семпл, интерполяция и сабдивы, и т.д. "Авторитетно" засыпают новичков терминами от которых кроме головной боли ничего более.
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Бегло пробежался по уроку, настройки подобного рода стоят/стояли на интуитивном уровне, теперь с пониманием дела, все что написано выше относится к настройкам "с оптимизацией" памяти из урока. Еше раз спасибо, очень полезная информация для перехода от "интуиции" к частичному пониманию дела.
Просто уже есть пачка машин класса Core2Duo, списанных и появилась возможность "прикарманить" для вычислений.
Сильно не пинайте, я сам то не 3Dшник, грубо говоря новичек, только разбираюсь
На сайте c 06.02.2012
Сообщений: 598
Quote:
Просто уже есть пачка машин класса Core2Duo, списанных и появилась возможность "прикарманить" для вычислений.
Тут на форуме, недавно была тема, как раз по поводу использования дополнительных процессоров, попробуйте поискать.
На сайте c 23.07.2009
Сообщений: 1796
-
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Quote:
Ну вы должны знать что вирей производит расчёт по следующему алгоритму: построение БСП дерева, расчёт вторички, расчёт первички, финализация. Так вот первых 2 пункта в случае сетевого рендера выполняются на каждой машине индивидуально, а вот расчёт ИМ и финализация - с использованием всех возможных вычислительных потоков. Какой отсюда вывод? Расчитать ЛК на самой мощной машине, сохранить в файл, после чего в настройках сделать так чтобы все остальные машины не считали ЛК, а брали его из файла. В файле он будет весить значительно меньше т.к. пройдёт префильтрацию, что отсечёт часть семплов. Для дополнительного сохранения памяти дефолт джеометри можно перевести из режима статик в динамик, но это замедлит рендер.
Подскажите, т.е. мастер считает (в моем случае):
- Дерево, апдейты инстансов
- Irridance Map
- Brute Force / Light cache
- Выдает в файл
- Рендер

Slave в свою очередь:
- Подтягивает файл
- Рендер

Я правильно Вас понял?
Есть ли какая-то информация о объеме файла, в случае например если на мастере в теории занимает 6Гб просчет, сколько будет весить файл освещенности?

Опять же, на настройках very low оно работает и на 6Гб, но качество веток/листьев просто атас, а на hight машина просто "умирает" (и иногда вылетает) при просчете света. (сейчас считает Q6600), даже если и свет "прошел" финальная часть рендера занимает много времени, приходится делать мелкое разрешение (1024x76.
Цель всего этого: улучшить качество (детализацию) картинки, разрешение (для печати на А4/А3 а так же обезопасить себя от вылетов и нервных срывов.
Сейчас анализируя ситуацию, приходят мысли плана что bottleneck у меня в просчете света...
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Когда-то (прим. год назад) пробовали сетевой рендер на 2х машинах одинаковых, но из-за не имения под рукой гигабитного свича использовали WiFi локальный.
Результат: Не пользуйтесь Wifi в таких случаях никогда, производительность упала на много (отправляло файл дольше чем рендер на 1й машине). Собственно тестилось это давно, да и в "обед", проанализировать нормально не получилось. На тот момент в ресурсы так не упирались и машин не было, а сейчас хочется всего по больше и по лучше.
На сайте c 23.07.2009
Сообщений: 1796
-
Quote:
Когда-то (прим. год назад) пробовали сетевой рендер на 2х машинах одинаковых, но из-за не имения под рукой гигабитного свича использовали WiFi локальный.
Результат: Не пользуйтесь Wifi в таких случаях никогда, производительность упала на много (отправляло файл дольше чем рендер на 1й машине). Собственно тестилось это давно, да и в "обед", проанализировать нормально не получилось. На тот момент в ресурсы так не упирались и машин не было, а сейчас хочется всего по больше и по лучше.
Да, с вайфаем та же беда была! Только по проводам, иначе толку нет.
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Из статьи/урока:
Quote:
Настройки распределенного рендеринга
V-Ray может распределять и отправлять отдельные бакеты всем доступным компьютерам, а затем собирать результаты их просчетов в едином фрейм буфере.
Он отправляет данные относительно отдельного бакета (мало памяти) или же слейв подгружает всю сцену (много памяти) так же как мастер и кусками рендерит ?
На сайте c 18.06.2008
Сообщений: 195
Lemberg
Хотите быстрого рендера, тогда нужно упростить материалы на растениях. Убираем транлюсенси, сабдивы, фреснели, ставим блур на мапах на 1...и т.д. глосси оставляем, только там где это действительно необходимо...уменьшаем бамп амоунт...
приходится рендерить анимации с кучей треугольников...и кучами проксей. всегда хватало 8 гектар оперативки )))
щас 16 стоит только на одной машине лайткеш и ирка на ней считается.
Репутация: 0
На сайте c 21.03.2010
Сообщений: 7
Quote:
Хотите быстрого рендера, тогда нужно упростить материалы на растениях. Убираем транлюсенси, сабдивы, фреснели, ставим блур на мапах на 1...и т.д. глосси оставляем, только там где это действительно необходимо...уменьшаем бамп амоунт...
приходится рендерить анимации с кучей треугольников...и кучами проксей. всегда хватало 8 гектар оперативки )))
щас 16 стоит только на одной машине лайткеш и ирка на ней считается.
Конечно, 50% проблем с рендером из-за незнания деталей и кофициента кривизны рук
Хочется:
а) стабильного рендера без вылетов
б) рендер на настройках еквивалента "very hight", когда траву на газоне видно, а не как сейчас "графическое-мессиво"
г) Рендер в 20 -30 часов не пугает, если его можно уменьшить до 5-10 часов используя дешевые машины в сети.

Вопрос не столько в количестве (поставить по 8/16Гб на ноду не сложно) а в соотношении. Грузит ли нода всю сцену (соотв. требования по оперативе те же что и на мастере) или отправляет частичную информацию.
Quote:
щас 16 стоит только на одной машине лайткеш и ирка на ней считается.
Подскажите, т.е. у вас есть 1 машина, на которой считается ГИ, отдает его в файл, а остальные считают финалку используя ГИ от 16ти гиговой?

Есть какой-то метод/настройка, которая покажет реальное использование оперативы на каждом из этапов просчета (жел. лог), т.к. то что в окошке Render - брешет, показывало 2гб - при 4х гигах в системе = вылеты, показывает так же 2гб при 6ти, и вылетов нема.

Еше 1 мелки вопросик, vray RT может считать "превью" на GPU других машин ?
Как минимум применение машинам будет в виде live view vrayRT либо на CPU либо на GPU
На сайте c 18.06.2008
Сообщений: 195
Lemberg
да, остальные подцепляют ирку и лайт кеш по сетке.
на счет лога используемой памяти не знаю,
могу сказать, что не всегда все машины подцепляются...
танцы с бубном помогают, но я чаще забиваю и работают не все компы...
просчитать сначала свет на боле мощной машине - хороший тон.
На сайте c 06.02.2012
Сообщений: 598
Вот, тема на форуме была о рендер ферме :
http://www.3ddd.ru/modules/phpBB2/viewtopic_t_8916.html  
А это, собственно статья, вокруг которой происходило развитие темы :
http://www.thg.ru/howto/render_farm/print.html  
На сайте c 03.09.2009
Сообщений: 19
Столкнулся с такой вот проблемой. Рендерю дистрибутивным рендером на двух машинах. Вторая не видит не прокси не карты. Захожу на вторую машину вырубаю там врей спавнер. запускаю макс, прописываю в путях папки с картами и с прокси. Вырубаю макс опять и перезапускаю спавнер. Карты видит а вот прокси упорно не хочет. Кто-то сталкивался с таким?
На сайте c 03.09.2009
Сообщений: 19
Вот еще прикол начался. Я так понимаю текстуру находит но насыщенность на бакетах разная вроде как. И че так?????
Читают эту тему: