Антиалайзинг активно использовать, размыть текстуру, сделать более разнообразной. Три варианта что я знаю
Есть софты по созданию текстур как Bitmap2Material. В них такое решается. Генераторы сами поворачивают тайлы и делают края полупрозрачными и рваными. Получается тайловая большая текстура из кусочка