1. Сперва надо сбросить настройки старого вирея - выбрать дефолтный рендер, а затем вирей.
Не говорю что должно помочь, но таким образом вирей избавляется от артефактов старых настроек.
2. Дальше "курите" настройки вот здесь: http://c2n.me/3DWnbQx исходя из объема оперативной памяти и поддержки embree вашим процом
3. Настраиваете GI по вашему вкусу и умению
4. Проверяем DMC, должно быть как то так для начала: http://c2n.me/3DWni0p
5. Имейдж семплер настраиваете по вашему вкусу и умению.
А вообще зависание Light Cache это проблемы с обработкой Dynamic Geometry - дисплейс, фур, прокси - элементарно не хватает памяти на обработку данного типа геометрии
Ищите материалы и объекты с дисплейсом, отключите фур и прокси для начала.
6. Для дисплейса выставьте глобальные настройки: http://c2n.me/3DWnFkm
7. Если используется VrayDisplacementMod и памяти как минимум 32 гига поставьте здесь галку http://c2n.me/3DWnRVu это сделает обработку дисплейса намного быстрей.