Поставил движок на двух сайтах и на обоих косяк с RSS. Сторонние каналы работают нормально, а свой родной стандартный на одном вообще ничего не показывает и пишет "Существует проблема с заголовками!", а на другом показывает в непонятной кодировке. Как исправить?

Ну, это еще не самое важное. Косяк с RSS длится уже давно.
Еще совсем недавно поступали жалобы пользователей, что через их RSS канал открытый для всех посетителей, можно было экспортировать "чужие ссылки" и "контент". Тоесть вводится адрес обращения к Вашему каналу, но к адресу добавляется ссылка на совершенно иной сайт, и потом этот список передается поисковикам.
Хорошо, если админ успеет закрыть этот канал, а если нет, то утечка Тиц и PR через эту "дырку системы", и потеря релевантности сайта.
Совет: "Лучше отключите его вообще", до поры, до времени, или запретите его использование для всех кроме пользователей.
Факт, что заявлялось о закрытии этой "дырки" на оф. сайте, но отзывы пользователей говорят совершенно о другом - "дырка вроде как осталась". Сам не пробовал, судить не берусь, но советую обратить внимание на этот модуль.