Обводка - VrayToon, резкий переход между светом и тенью - настроенный falloff в диффузе.
Соответственно тип шейдера надо constant, в максе такого как бы нету, но это можно сделать стандартным. Просто в сцене ставишь 1 источник света с мультом в 1 и включаешь его как ambient light без затухания, в материале используешь тока диффуз, вот тебе и констант. Только возможностей больше, т.к. в твоем распоряжении ещё и спекуляры будут.
