Есть аналоговый полосовой фильтр. АЧХ фильтра при малых сигналах (0dBm выходной сигнал генератора анализатора) имеет заданную характеристику, но вот когда через фильтр проходит более мощной сигнал (+30 dBm) он прекращает выполнять свои функции в области высоких частот. Фильтр должен пропускать десятки килогерц, что он и делает, но вот сотни, которые он должен давить, проходят в нагрузку. Я так понимаю, что вся причина в smd-индуктивностях, которые я использую. Выбираю их в соответствии с максимально допустимыми токами. Подскажите, как правильно выбирать индуктивности для такой задачи?

Чтобы говорить о максимальном токе, протекающем через эти индуктивности, нужно провести моделирование схемы в каком-нибудь SPICE симуляторе, тогда станет понятно, какой брать максимальный ток.
Нужно внимательно проверять, как производитель характеризует макс. допустимый ток - т.е. при каком падении индуктивности катушки ток считается макс. допустимым.
Потому как при протекании тока , близкого к максимальному, индуктивность будет вести себя как нелинейный элемент.

Возможно входит в ограничение усилитель (наверно операционный) ?
это тоже стоит просмотреть, т.к. он иожет генерировать гармоники.

Нет никаких операционников. На входе фильтра меандр, от которого на выходе остается синус. Фильтр рассчитан таким образом, чтобы 3 гармоника давилась на -40 dB, а 5 на -60 dB. Характеристика на малых сигналах рассчетная и гармоники правильно давятся. А при увеличении амплитуды входного меандра 3 и 5-ая гармоники давятся в несколько раз хуже. Я думаю, что это из-за феррита, который насыщается. Вот мне и интересно, есть ли какая-либо методика расчета фильтра, которая учитывает это насыщение.

Serg_el может схему все-таки приведете?

Ничего особенно, просто классический полосовой фильтр Баттерворта.

Зайди на сайт производителя этих индуков, или по ТТД определись с максимальным током.
Надо ещё учитывать, какое характеристическое сопротивление фильтра и как оно согласуется с последующим каскадом, а так же нелинейность входа усилителя.
Может быть взаимовлияние магнитных потоков от катушек возникает? тогда располагай ортоганально.

Самое правдоподобное объяснение (на данный момент, пока нет схемы). Действительно, при больших токах феррит входит в насыщение -> индуктивность уменьшается -> полоса среза фильтра возрастает.
Методики, я думаю, есть в книгах (сейчас у себя посмотреть не могу, к сожалению), но лучше все же изначально при проектировании схемы не допускать такого режима работы фильтра, когда сердечник входит в насыщение.

Вы не назвали частоты, токи и используемые индуктивности (или ферриты).

Тоже думаю, что проблема в ферритах.
Ферриты вблизи насыщения - это длинная песня, и вряд ли есть универсальные работающие методики.
Важный параметр феррита, непосредственно влияющий на индуктивность - магнитная проницаемость µ.
Для переменных полей (т.е. переменных токов в катушке) эффективное значение µ является функцией и амплитуды поля (тока), и частоты.
Варианты ослабления неприятных эффектов:
1) Использовать индуктивности с заметным запасом номинального тока.
2) Использовать индуктивности на ВЧ ферритах - у них µ "от рождения" меньше, но и значительно меньшая зависимость и от амплитуды, и от частоты.
3) В особо серьезных случаях - использовать индуктивности без ферритов.

Полоса фильтра 40-50 кГц. Использую чип-индуктивности ABC. В документации приведен максимальный постоянный ток, при котором dL/L<=10%. У меня амплитуда переменного тока в 2 раза меньше максимально допустимого постоянного!!! Индуктивности неэкранированные ,т.е. на ферритовую катушку намотана обмотка, но индуктивности расположены на расстоянии около 1 см, их влияние друг на друга незначительно. Проводил эксперимент: выходной сигнал фильтра смотрел спектроанализатором, при уменьшении тока раза в 3 гармоники начинают правильно давиться. Какой же запас по току им нужен???

Вот Вы сами и нашли ответ: в Вашем случае - минимум в 6 раз.
Если есть возможность - делайте активный фильтр (вообще без индуктивностей).

Повторюсь, магнитные свойства ферритов всегда зависят и от частоты, и от амплитуды поля.
Производители об этом знают, поэтому часто и указывают максимальный постоянный ток, при котором dL/L<=10%. При переменном токе такой же амплитуды индуктивность действительно может отличаться более чем в 10 раз - на частотах выше 100 кГц для НЧ-ферритов.

А как вы определяли ток через индективность?

(Возможно ваша оценка тока также сильно занижена)

Ток определял приблизительно, зная мощность, потребляемую ключом на входе фильтра и входное сопротивление фильтра. Получалось действующее значение тока втекающего в фильтр из источника питания, далее определял амплитуду этого тока и считал, что это максимально возможное значение.

Опишите подробнее, как Вы определяли амплитуду тока на основе мощности на ключе и как Вы эту мощность измерили. Ведь сигнал на входе фильтра у Вас не синусоидальный, так что простым умножением "действующего значения тока" на 1,4142 здесь не обойтись.

Лучше с осциллографом - можно определить, замерив амплитуду напряжения и разделив на известное вх. сопротивление фильтра - при условии, что вх. сопротивление известно точно.

Напряжение источника питания умножил на ток, потребляемый от этого источника - получил мощность, потребляемую от источника. Входной сигнал фильтра почти меандр (закругленная отрицательная часть), никаких выбросов, бОльших напряжения источника питания не наблюдалось.