Вот только недавно обсуждали тут эту тему. Сам от себя хочу добавить, что если у вас рендер интерьера и экстерьера, то не парьтесь и рендерьте при Default geometry - Auto. Если у вас рендер аннимации, то тогда имеет смысл хорошенько настроить V-Ray : System. А вообще, вот тут, все сказано очень понятноhttp://ru.renderstuff.com/optimalnye-nastrojki-vray-raycasting-cg-urok/