попробуй дисплейсом, только карту обрисуй отдельным слоем в фотошопе, и сохраняй ее в PNG . карту не в материал кидай а применяй модификатор dsplasemant к высокополигонному "с одной нужной грани" боксу.. не лучший способ, но как вариант имеет место быть.. удачи
Вот пример подобных мучений.Сначала смоделил эту плитку хайполи и закрыв одну стену убедился что 12 гиг оперативки не хватает.Тогда отрендерил одну плитку в фронтальной проекции с каналом Zdepth ,из Zdepth сделал карту бампа , рефлекта и рефлект глосси.Натянул на бокс.