nik.lav-86
Если владеете английским, почитайтеhttp://renderstuff.com/irradiance-map-vray-best-settings-cg-tutorial/,
там общие принципы настройки GI указаны, есть там и ответ на ваш вопрос. В целом вам правильно подсказали - самый простой способ, если не использовать фотошоп, это увеличение разрешения рендера на выходе (особенности работы V-ray движка). Можно еще использовать Detail Enhancement. А также фильтры сэмплирования, например catmull-rom, правда в этом случае, возможны некоторые нюансы.
Конкретно к вашему приложенному рендеру - картинке явно не хватает контрастности, тени очень светлые. Из-за этого нет ощущения глубины в кадре. Колор маппинг какой используете? Что-то мне подсказывает, что HSV экспоненту, лучше от неё отказаться вообще.
На правах ИМХО.