нужна общая перенастройка света. v-ray уделяет меньше внимания темным областям, отсюда и шум. освещение с помощью vrayLight mtl совсем не приветствуется. Проще полигоны, которым хочешь назначить самосвет, дэтачить и применять к ним vray light тип mesh. Тогда будешь и мощностью более точно управлять и сабдивы можно будет наваливать.