FumeFX+VRay-нужна помощь

Видимо дымы лучше в AE городить, раз такой косяк есть...

Да, есть такое.
Происходит из за того, что плотность дыма по дефолту "угасает" ближе к краю. Чем больше плотность - тем меньше это угасание.
Простым языком - чем плотнее дым - тем менее прозрачные воксели по краям.

Бороться можно так - попробуй увеличить джитерринг (слегка уберет пикселизацию). Так же покрути кривую AFC, создай на подобии как у огня, чтобы ближе к краю было угасание.
Ну и самый железный метод - это уменьшать спейсинг сетки(так как плотный дым по краям тоже должен быть плотным). Какие у тебя сейчас размеры контейнера и размер вокселя?

Сетка вобще не большая 220 где то была. Вот комплексно подкрутил все: плотность 200, спейсинг, как уже сказал 120 (размеры), вот идея с кривой тоже понравилась... Увеличение ждитеринга размазывает как то уж больно сильно... + добавил пару эффекторов, отвечающих за цвет повышеной плотности и турбуленцию.
Вот что вышло -





В принципе, для шопа или ае-шки этой картинки за глаза хватит... Очень доволен введением эффекторов, да и скорость хороша. Порадовал меня новый фум.

Downpressor
На времени просчета сильно сказались изменения?
И альтернативу Fume - Phoenix FD никто не щупал?

Prog
как по мне - да, теперь просчет занимает пару-тройку минут) И вообще, относительно других пакетов или плагинов фум довольно шустр. Например в реалфлоу бывает приходиться сидеть и ждать довольно долго для приемлемого результата...

От настроек, естественно, зависит.
Когда симулируешь и рендеришь в 2к в продакшн качестве, то и фумом можно на неделю комп положить.

Кстати совет автору темы, что в самом верху - рендерить виреем фумовские флюиды - не самая лучшая идея. Изначально он под сканлайн заточен был. Вообще это отдельным проходом считают и пассы коректные вывести, без всяких гаммакорекций.

А там кстати в настройках Fume нельзя ли Vray шейдер задать, или не доступно это? я бы сам проверил, но Fume ставить влом.

Нет, там свои шейдера.