Если вы не использовали сторонних плагинов, это не значит что их нет в сцене. Вы могли их зацепить вместе с чужими моделями. Или там все модели ваши?
Геометрию конвертировать не обязательно, но это лучше сделать, чтобы исключить возможные косяки с плагинами или слишком перегруженые стеки модификаторов. Рендер в любом случае работает с мешем, и если вы схлопните все стеки, рендеру будет легче и меньше возможных косяков. Это не панацея, можно так сильно накосячить с геометрией что конвертация не поможет.
Возможные причины вашей неудачи:
1. косяк с геомертией. Возможно вы использовали чужие модели, и кто знает какие там косяки.
2. Косяк по материалам. Либо слишком сложные с блендом, sss, и пр. Либо какие то плагины, которые случайно зацепили.
3. сцена не помещается в память видюхи.
Проверьте чтобы все материалы были виреевские, источники света тоже..
Дисплейс rt тоже не всякий поддерживает. вроде бы 2d - не поддерживает, только 3d и Subdivision.
Да, вы правы, гпу рендер быстрее чем цпу. Но чем сложнее сцена, сложнее материлы и больше полигонов, тем эта разница меньше. Попробуйте сравнить на более простой сцене с серыми материалами, и постепенно усложняйте. Или в этой сцене уберите всю мебель сделайте материал серым. А потом добавляйте по немногу...