Порядок такой, если не объяснять в подробностях:
1. Накидываете на геометрию Turn to Poly модификатор, конвертируете в Editable Poly
2. Выделяете все полигоны, в Smoothing groups выставляете 30 и нажимаете Autosmooth
Если это не помогло, значит проблема не в группах сглаживания, а в просмотре, то есть в шейдинге самого макса или в чем там идет отображение. Ну то есть с материалом MatCap такое может выглядеть страшно, но без него - норм