AllanSchezar тут скорее всего не результат булина, а результат скрипта Populate: Terrain он делает такую равномерную сетку и сохраняет края
Автору - накинь на террейн модификатор Subdivide с дефолтным значением, он разобъет всю сетку на треугольники и после этого уже релаксь кистями, просто релакс некорректно будет работать с многоугольниками, он нормально работает только с трисами и квадами