Приветствую! Чтобы штрих кистью ClayBuildup получался без таких "ступенек" даже на плотной сетке, нужно в меню Stroke настроить с каким шагом альфа будет повторяться в построении штриха (обратите внимание, что альфа у этой кисти квадратная). По умолчанию стоит значение 1, если изменить на меньшее (например 0.25) то штрих будет более плавным. Так же можно изменить значение Focal Shift на 0, так штрих станет ещё более "мягким". Примерно так)