На какой операционке брать телевизор (smart tv) - чтобы смотреть youtube?

вы можете купить тв приставку на андройде и взять любой телик , а так можно сразу и телик взять на андройде

Wireguard и outline ставятся даже на сбертв. Ну а дальше или собственный vps с разворачиванием на нем серверной части или поискать публичные  ключи, но я думаю они не дадут скорости и могут быстро закончится.

Только отдельно приставку) и заменить проще как устареет и меньше ограничений из коробки

Самое правильное решение - купить хороший роутер настроить на нем *информация про это запрещена в РФ* и туннелировать требуемый трафик. Не у каждого провайдера запрещенки есть приложения работающие с андроид ТВ, да и часто андроид на ТВ кособокий, т.к. все норм производители используют пропиетарные ОС.

С учетом последних событий, я бы не исключал вероятность возвращения сервисов в ближайшей перспективе. А пока можно настроить впн на домашнем роутере. Тем более что стоимость подписки составляет плюс-минус 50$/год. Но для начала по месяцу погонять наиболее популярные, а там глядишь и покупать не понадобится.