первое что заметил при таком разрешении в лайткеше сабдивов всего 1000.включите субпиксел и гламп аут напротив вместо 1 поставте 5 гламп аут.брут форс я бы поменял на ир мапу в профилтериге вместо 30 поднимите до 100
сделайти прин скрин окна сообщения при рендере, там должно быть прописано о всех неполадках, скорее всего мат присвоен к какому либо объекту корявенький