На рендере шторки через транслюценс и сделаны (0,1 в свитке basic options\diffuse\translucensy). Что так, что через глосси - недостаточно размывает. Может попробовать без толщины транслюценс, или карту кинуть, пока некогда, но походу то же самое будет.
Просто оконную раму надо заглубить дальше в откос: стена у нас обычно 510-640 мм, 150мм - отлив снаружи, итого глубина подоконника от 360мм. В этом промежутке и вешайте штору как угодно, подбирайте размытие.