Уже натыкался тему с похожей проблемой, но решение для себя не нашел.Раньше, если мне нужна была альфа для текстуры, то я спокойно активировал Alpha в Mono Channel Output, но в 3dsmax 2016 , почему то она неактивна.
Сама текстура в формате tga (даже специально посмотрел тутор по этой теме). Вкладка каналов:
Кто с этим уже сталкивался? Может в новой версии это теперь по-другому делается?