У меня такая проблема была на старой gtx 770, в принципе на нее и грешил в те времена. Драйвера не помогали. Сейчас на новой пока таких проблем не встречал. Скорей всего видеокарта не тянула такие размеры, потому как с меньшим (2048) разрешением все хорошо было.
Какая видеокарта и сколько ОЗУ? Какая версия сабстенса? Версия ОС?
ОЗУ: 8ГБ
Gefor 630M(ноутбук)
Видеокарта: nvidia 391.35
Substance Painter вроде 2020
Создала примерно такой же слой, проделала те же действия (кисть трещины из Tools) и квадраты исчезли. Но все равно не понятно, почему эти квадраты появляются рандомом на слоях:\