Проблема в том что я сохранял маску отдельно прямо из окна слоев, а в субстансе padding производится при конечном эспорте, и там экспортятся уже готовые текстуры, а самой маски там нет.
В Блендере например при texture painting есть параметр bleed:
"Bleed
Seam Bleed extends the paint beyond UV island bounds to avoid visual artifacts (like bleed for baking)."
то есть при рисовании текстуры, если кисть попадает туда где на развертке шов, на UV раскладке в месте шва эффект сразу распространяется на указанное кол-во пикселей за границы островка