Маленькая сцена и не хватает оперативки(8гб), в чем проблема?

Они не имеют какие-то другие полигоны, это всё одни и те же полигоны. Если у вас миллион инстансных кубиков в сцене, это значит, что в вашей сцене по большому счёту 6 полигонов, а не 6 миллионов полигонов. Такие сцены на 256 метрах оперативки хорошо считаются )))) 

Я рендерил в далеком 2002 году классический интерьер, инстансов там было мало. 

И еще не забывайте про пару моментов :

Схлопнутый стэк модификаторов - Значит что геометрия становится фактической а не условно-параметрической, и начинает жрать больше RAM/VRAM. Но при большом стэке модификаторов идет нагрузка на CPU, каждый раз когда вы запускаете сцену/подгружаете объект.

Если и схлопывать стэк модификаторов то Editable Mesh будет занимать в 3-4 раза меньше RAM (ОЗУ) и при сохранении сцены Mesh будет весить в разы легче чем Editable Poly. Но при этом Editable Poly будет быстрее работать с модификаторами.

Можете проверить это следующим образом — взять тяжелый объект (чайник 64 сегмента + turbosmooth с 1 итерацией), сделайте дубликат, сконвертируйте один в Poly а другой в Mesh, накиньте им Symmetry-Модификатор и сравните производительность. Mesh окажется в разы медленее.

По этому рекомендую :

1.) Тяжелые объекты сформированные модификаторами - не схлопывать.

2.) При редактировании геометрии модификаторами держать ее в Poly.

3.) Фактическую геометрия которая уже готова (не будет модифицироваться) держать в Mesh.

4.) При сохранении сцены (при желании уменьшить размер) используйте Mesh на фактической геометрии.

Как-то так... Может в чем-то неправ ?

Ну давай, расскажи нам, где у макса ставить ограничение потребления памяти.

Думаю что неправ. Перед рендером, движок переводит всю геометрию в треугольники, по сути дублируя сцену. Сюда же добавляется перевод дисплейса в меш. Если стек свернут в меш - то работа движка облегчается, меш и есть конечный формат.

RAM может быть забит уровнями отката, нужно выйти из макса, загрузиться по новой и сразу начать рендер, мегабайт 200 съекономится.

ygoryan, по поводу стэка модификаторов я говорил это не относительно рендера а работы в сцене. Когда куча объектов с схлопнутыми модификаторами - работать невозможно. И вес сцены резко возрастает, порой в десятки раз. А относительно рендера - ему и вправду пофиг, будет там Mesh или Poly+Пачка Модификаторов. Ну там может и ускорится Scene-Building этап но это секунды...

Я как-то брал Стэнфордскую скан-модель (Lucie ) и в изначальном виде в Mesh она жрала ~5GB ОЗУ а в Poly ~12GB ОЗУ. Ну и вес сцены (max-файл) тоже где-то в 2.5 раза больше становился. UV-Clean делал (удалял UV-Координаты, и сбрасывал группы-сглаживания) - результат такой-же.

проблема то не в секундах, а в гигах.

вот об этом я и говорю - хочешь съэкономить на размере - конверти в мэш (а еще лучше в прокси, это уже готовый трейс нормалей  для движка)

Ну для начала надо определится с оптимальными настройками Dynamic memory limit. Далее в диспетчере задач сделать приоритет ниже среднего. А если системно Win+R/msconfig/Загрузка/Доп. параметры

Я даже комментировать это не буду.

Надеюсь, у девочки всё получится))

)))я тоже на это надеюсь.  Компьютер и правда  до предела работает. ..

! разобралась в чем дело! в сцене было много столов  каждый из которых продублирован , то есть модель на модели.  из-за этого так много полигонов, да и удалила сложные объекты, порадостней процесс пошел