Здравствуйте,
стоит задача реализовать фильтр, характеристика описана так (отсюда http://eu.sabotage.org/www/ITU/J/J0017e.pdf ):


причем "where ω is the angular frequency corresponding to frequency f". Насколько я помню w = 2*pi*f.
К формуле приведена таблица значений, например для f(kHz) = 2 -> loss = 6.98dB, проблема в том что при подстановке такой частоты получаются совсем другие значения loss.
Попытка обратного решения (для заданного loss) дает комплексные значения w.
Может у кого-то есть идеи что автор имел ввиду?

похоже, они забыли в скобки формулу под логарифмом забрать перед возведением в квадрат, а потом извлечь корень. вроде как по модулю должно быть, если склероз не изменяет. опечатка.

Спасибо за наводку, разобрался. Действительно опечатка, правильная формула

Честно, немного в недоумении - ведь это официальный документ ITU-T.

Ничто человеческое никому не чуждо