вот в таблице отношения критичекой длины волны к радиусу волновода.
если ваш круглый волновод возбуждается от прямоугольного, что чаще всего бывает, надо смотреть волну TE11.
критическая частота получится 300/34.126 = 8.79 (ГГЦ).
надо конечно повыше брать, ГГц 10 - 12.
9 ГГц, как я раньше написал, маловато, будет слишком большое затухание.