Имеется преобразователь АС/АС на выходе 110В 60Гц. Нужно прикрутить к нему фильт, причём как можно меньших габаритов. Какие ферриты(железо) можно использовать и как вообще такой фильтр рассчитывается?

Частота преобразования не указана...

по-моему было 150КГц

Тогда на феррите, частоту среза можно не брать сильно низкую,
выгоднее два звена последовательно , вторым подрезать остатки.

Смотря по тому, какие требования к содержанию тактовой в выходном продукте...

ну чем больше подавится, тем лучше, в разумных пределах. Здесь, я думаю, компромисный вариант будет, так как порядок фильтра и габариты вещи напрямую связанные. Можно ведь так фильтр рассчитать, чтобы как раз на тактовой частоте получилась точка максимального затухания, но опять же это будет зависеть от нагрузки. Короче мысли в голове крутятся, только как это на практике выглядеть должно не совсем себе представляю.

Я дал вариант, оптимальный по габаритам.
Моделируйте, будет видно... Можно и три порядка делать, если где-то паразитнаые индуктивности есть по ходу...
Специально ставить еще одну обычно лениво...

Можно воспользоваться нормами из ГОСТ Р 51317.6.3.
На частоте 150 кГц помеха в сеть не должна превышать 66 дБмкВ (2мВ).
Если выходная сеть вся Ваша, то можно установить для нее свои нормы, понимая как это будет влиять на подключаемые устройства.
Фильтры (входной и выходной) должен подавлять помеху по каждому проводу относительно земли (измеряется на эквиваленте сети 5/50 Ом).
Фильтр должен подавить как дифференциальную составляющую, так и синфазную.
Материал для сердечников должен быть высокочастотным (феррит, нанокристаллическое или аморфное железо) и энергоемким, особенно для фильтра дифференциальной составляющей помехи (здесь железо лучше, но дороже).
Для дифференциального фильтра лучше применить аморфное железо или порошковый материал (sendust, Kool-Mu).
Конденсаторв брать типа X2 (Для дифференциальной фильтрации) и Y2 (для синфазной).

А нагрузка изменяющаюся? Учтите, что в динамике может быть бяка...

Василь, это чье такое изделие? На входе стоит PFC, или просто после выпрямителя электролитические конденсаторы с 500 мкФ на киловатт?

на входе PFC.

вот что говорит моделировщик:

При изменяющейся нагрузке мы выбирали резонасную частоту фильтра 0,1 от частоты коммутации. При стационарной - где-то 0,3. Учтите, что при ШИМ у вас будут гармоники не только выше частоты коммутации, но и ниже. Варьируйте параметрами индуктивности и емкости. Промоделируйте спектр и коэффициент гармоник выходного напряжения при различной резонасной частоте фильтра. Госты и нормы вам в помощь для ориентирования.

И еще. Оптимальным фильтр может быть лишь изначально при проектировании всего преобразователя вцелом, когда учитываются например габариты всей системы (фильтр, охладители транзисторов, потери в элементах и т.д.) Теперь вы можете лишь сэкономить на дроссели или на конденсаторе.