как лучше записать канал теней для сборки картинки в фотошопе

Да просто тень сверху нарисовать отдельным слоем, как и сказала выше:

https://file.io/LzYqs7rOfh6U  - псд

И не надо там куча слоёв с разными режимами смешивания и ещё непонятная экспозиция сверху (этот слой у меня вообще в фотошопе дискарднулся).

Три слоя всего: фон, картинка на замену, тень сверху.

Валерия, спасибо! попробую так сделать, не совсем понял только вот эту часть  //После наложения в Фотошопе переведите все в 16 бит//

я записываю все слои из макса в 48-бит цвете , гамма 2,2 ? .. и в шопе тогда 16-бит на канал-ргб получается,

а если не записал из макса 48-бит то уже в шопе переключать нет смысла мне кажется

Рендерите:

1) Картинку общую для бекграунда

2) Рендер елемент сомпозит_рав для теней (в фш смешивание умножение)

3) Рендер элемент рефлект (в фш смешивание экран 30-50%)

Далее создаете прямоугольник по размерам картины, конвертируете его в смарт объект и помещаете трансформом на место картинки внутри рамки.

Далее заходим в смарт объект, вставляем нужное изображение, сохраняем, вуаля...

Я сохраняю всегда в exr, поэтому добавила этот пункт)

а вы в каком фотошопе работаете ?

а то я попробовал exr записать/открыть в шопе - а там слоев не открывается

Это установите�https://www.exr-io.com/   

В стареньком)) 2012 вроде