Простыми словами у тебя лишняя вершина, сделай Weld на все vertexы, а потом удали ненужные, для этого есть скрипт(надеюсь геометрия не очень high).
А вообще, по картинке должно быть понятно, Mudbox говрит, что у тебя внутреняя вершина, с думя гранями присоединеными к ней и что он не может подразделить это(subdivide) и что у тебя могут быть проблемы )