Попробуй отключить displace в материалах (глобально отключить можна в свитке global switches в Vray)

Зайдите в материал и в свитке BRDF выберите нужный шейдер (Blinn,Ward,Phong). При не совпадении версий Vray они могут сбится. Этот список может быть пустым.

Мне кажется дело в самой версии vray 3.00.03. У меня тоже тормозило. Работаю на более ранней версии