А самый простой способ, взять где-нибудь сцену с настроенным виреем, и посмотреть там настройки. Или прям туда свою сцену смержить. Только со светом надо всё равно разбираться. Я сначала пробовал на отдельных моделях без источников света, только со светильниками по умолчанию, включив GI. Это вобщем главная галка в В-рей.
А если вообще сначала. Надо ещё выбрать в рендеринге V_ray в качестве основного рендера. И если надо, ещё V-ray крякнуть.