Смотри во вкладке Rendering (Во время рендера) раздел Scene Statistics. Там есть Memory Used. Посмотри сколько памяти забирает рендер. Обычно такое бывает если, при рендере память достигает предела.
Если у вас стоит ОС Windows XP SP2, то проделайте следующие действия: правый клик на иконке “My computer” => Properties => Advanced => в разделе Startup and Recovery жмём кнопку Settings => далее жмём кнопку Edit => в последней строчке «multi(0)disk(0)rdisk(0)partition(1)WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect» прописываем в конце «/usepmtime/3GB». То есть должна получится такая строка:
multi(0)disk(0)rdisk(0)partition(1)WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect/usepmtime/3GB
Жмём Ctrl+S, закрываем все окна и перезагружаемся. Делается это для того, чтобы ОС могла выделять больше оперативной памяти для того или иного приложения (в нашем случае 3D S Max), в противном случае (особенно это касается сцен с классическими интеръерами) при запуске рендера ваш 3Д Макс на вас просто обидится и отключится.Это с урока на рендер.ру мне в свое время помогло.Правда щас могут набежать люди которые скажут- Ставь 64битную 7-ку, а это все ересь
