Тестировал на vray 3.2 и 3.4. Результат стабильный. Воссоздаётся проблема таким образом:
Ставим прямоугольный параллелепипед с гранями 1500х1500х2500. Делаем ему Шелл наружу. Назначаем VrayMtl по умолчанию.
Внутри сверху по середине потолка ставим Vraylight Сфера радиусом 1мм.
Ставим камеру внутри с широким углом обзора и направляем на одну из стен.
Настройка рендера по умолчанию с отключенным глобальным освещением.
Вот результат при изменении радиуса источника света (gif анимация, запускается по нажатию на картинку):
Радиус от 2мм до 0,01мм. На двух мм видно нормальное светораспределение. При уменьшении ступенчатость усиливается, однако при радиусе от 0,1мм до 0,05мм картинка вновь становится нормальной, и далее опять еще более жёсткие ступеньки:
Так же выявлена зависимость этого эффекта с изменением размера внутреннего пространства.