Та же проблема, пока решил установкой Datasmith 5.2 есть вопросы к разработчикам, там то же посоветовали) https://forums.unrealengine.com/t/3ds-max-cant-open-because-of-datasmith/1287774