Работал с сигналом который был произведением почти синуса с небольшой модуляцией и медленного.
Помню хотел прологорифмировать, отфильтровать медленный, а потом обратно возмести в степень
При логарифмировании образуется комплексные числа, плюс минус бесконечность
Но может их тоже можно фильтровать. Вот только как фильтр преобразовать в область с комплексными числами, я не понял.
Отказался потом от этой затеи.
так для себя и не выяснил - возможен такой подход или нет

А как при логарифмировании действительного сигнала получить комплексные числа?

Ну логарифм отрицательной части сигнала. А еще нули

Чисто математически получается, что:
1. В момент перехода одного из сомножителей через 0 информацию о втором не восстановить.
2. Информация о знаках сомножителей таже невосстановима, если знак хотя бы одного из сомножителей не известен достоверно.

Думаю, правильно бросили затею.
Задача решается, только если сомножители заранее пронормированы так, чтобы были строго положительными.

логарифмом вы хотели уменьшить динамический диапазон сигнала? Если да, то почему не применить логарифм только к амплитуде сигнала ?

Нет, насколько я понял, ТС хотел преобразовать произведение сигналов в сумму логарифмов, т.е. таким образом разделить сигналы.

В Библии ЦОС Рабинера и Гоулда описан алгоритм оптимальной гомоморфной фильтрации. Стояла задача восстановить сигнал до фильтрации по фильтрованному. Таким способом авторы востановили голос Энрико Карузо, имея старые граммпластинки с записью.

Суть такая:
По теореме о свертке превращают свертку в произведение спектров сигналов, далее логарифмируют для превращения произведения в сумму. В конце опять делают преобразование Фурье для спектрального разделения и в конце просто обнуляют низкочастотную часть, куда попала характеристика фильтра. Обратными манипуляциями получяют чистый сигнал.

Если вы сделаете преобразование Фурье, то сведете задачу к решенной авторами книги. Конечно Это намного сложнее простого логарифмирования, но решает проблему.

Зние большего количества деталей позволит придумать алгоритн попроще.
Подумайте об индивидуальной обработке для каждого из 4 случаев: