По видимому не хватает памяти при рендере в вирае - лечится:
1. уменьшение размеров текстур (например - 1600х1600 - переводим 2Д редактором в 600х600)
2. перевод высокополигональных моделей (которые однозначно не будут редактироваться) в прокси
3. отключение вирайфреймбуфер - с записью файла сразу в файл
4. добавлением памяти (+ 2-4 Гб)
5. Если система 32 битная - установка 64 битной вин7 + 64 битный Мах + 64 битный вирай