А прикрепленная картинка - это то что должно быть или то что у тебя получается, а то не понятно...
Вообще, если это исходник, то его трудно обработать так, чтобы получилась хорошая маска. Я в таких случаях рисую в кореле, дальше сохраняю в jpg, материал врейбленд с ч/б маской как писали выше. Эту же маску можно в дисплейс осн. мата положить .... И получешь то, что хочешь