Причём здесь антиалиасинг? DMC/subdivision это алгоритмы сэмплирования, которые, если говорить упрощённо, определяют какие области изображения стоит просчитывать тщательнее, а какие — нет, то есть их задача грамотно распределять ресурсы.
Он выбора сэмплера и его настроек, конечно же зависит появление лесенок, или их отсутствие, но это уже другая история.
Использую всегда DMC — он значительно быстрее subdivision, и к качеству нет вопросов.
Отличная статья про принципы его работы:
http://www.hqdetails.com/2011/05/demystifying-v-ray-dmc-sampler.html