Конечно мои предположения сейчас будут гаданием на кофейной гуще, но все же попробую:
Судя по скринам, проблема со сглаживанием происходит на уже запеченной под нормалмап двери?
Если так, то пеклась ли нормалка в максе или в сторонней программе? Если в максе, то по идее изначально кривоватая по сглаживанию модель должна была выпрямиться за счет компенсаций тангент спейса. Если нормали поехали, то скорее всего изменилась ориентация невидимых ребер при редактировании (нужно занова печь).
Если пеклась во внешнем софте (хНормал, Сасбстанс и тд.), то может иметь место не синхронизированный тангент спейс (синхронить, это уже заморачиваться с тулзами конвертерами, - у макса специфический тангент спейс).
Если модель вобще не для рендера в Максе, а скажем для игрового движка, то скорее всего искажения можно игнорировать(там все будет путем).
Если все же необходим юзать модель в максе, то нужно хорошень наризать швы у развертки на критических углах и сделать ребра краев развертки жесткими(не сглаженными). Максу будет достаточно 45гр(правило хорошего тона), чтобы не было видимых искажений нормалей.
Что хочется посоветовать по моделингу high to low для успешного ровного запечения нормалей:
-многовато, сечений параллельных, нужно меньше и равномернее(а где равномерно сильно, -по логике совсем не нужно сечь).
-группы сглаживания на лоу поли зависят от развертки: один кусок развертки -это одна группа, другой -другая. Почему? Можно почитать на Поликаунте, объяснять долго, но это нужно делать именно так для данного объекта.
-швы делать на критических углах, от чего сглаживание будет прерываться на них(потому что пункт выше), и как следствие не будет проблем с сильными искажениями сетки на лоу поли и совсем не будет при лоу поли с запеченой нормалкой.
Желаю успехов, - дело хитрое, но плоды будут вкусные потом.