у меня такая же проблема была в 3dsmax Design 2011 x64, в Customaze\Preferense Settings вкладка Vewports Choose Driver... переключила c DiretX 10.0 на 9.0