Прошу подсказать.

Имеется FFT ( N точек где каждая определяет уровень dBm )
вопрос, как правильно посчитать мощность во всей полосе.

Хотел просуммировать все геометрические площади, но не понятно как быть логарифимечской шкалой и что брать за нижную точку.

Что планируете делать с результатом? Мощности бывают разные и вариант расчёта может зависеть от "железа".

в железку грузятся разные файлы, и нужно понять: насколько изменить усиление выхода чтобы привести ко входу 0dBm.

по тестам получаю:
на синусе +5dBm
на белом шуме во всю полосу 0dBm
на белом шуме отфильтрованном в полполосы -8dBm

хочу автоматом скомпенсировать выход чтобы всегда было 0dBm в полосе

А причем тут логарифмическая шкала и площади. Нужно просто просуммировать квадраты всех отсчетов FFT. Если у Вас уже мощность (т.е. в квадрат возвели до Вас), тогда просто сумма. Она с точностью до множителя равна мощности. Множитель зависит от размерности FFT, коэффициента передачи Вашего железа и сопротивления, на котором измеряется мощность.

Может нужно измерить что-то вроде мощности аудиосигнала? Которую показывают индикаторы аудиоаппаратуры. Там используется пиковый детектор, а не т.н. мощность широкополосного сигнала.

Надо бы прояснить, что за сигнал и что за устройство.

Вот как раз логарифмы складывать негоже. Это сродни умножению мощностей. Нужно сначала перевести значения в обычное представление (взять антилогарифм или 10^x), потом сложить, потом можно снова взять логарифм (если нужно).
Что принимается за ноль -нужно смотреть описание прибора/программы. Обычно если логарифмическая шкала, то берется дБ (отношение) от милливатта или милливольта, а в ГОСТах берется дБ от Ватта например, вообщем это гдето должно быть явно указано.

Мощность сигнала рассчитывается только во временной области. Вам нужно сделать преобразование Фурье, получить сигнал во времени, проинтегрировать квадрат напряжения сигнала, делённый на нагрузку и усреднить по времени. Это и есть мощность. Так у Гоноровского.

Тогда уж обратное преобразование Фурье, если переводить во временную область. А так, посмотрите, что пишет Гоноровский про равенство Парсеваля Зачем делать ненужную работу?

Значит, у сигнала есть полоса [F1,F2]
В эту полосу входят бины B1,...,Bn полученного FFT.
Тогда мощность в данной полосе равна:
K*SUM_i=1ⁿ(ReBi^2 + ImBi^2),
где К - усиление входного временного окна.
(Имеется в виду, что напряжение на АЦП подается на нагрузочный резистор 1 Ом, тогда мощность - в ваттах)