Генерирум частоту, амплитуды А. Ловим её фильтром Герцеля на N точках (резуетат G).
Выражение 2*G/ (N*N) не зависит от количества точек и соотвествует средней энергии (сумма квадратов самплов /N).

Затухание (Дб) = 10* log(E / E0)

Так вот какие значиния правильно брать за E и E0 что бы получить "правильные" децибеллы?
Предполагаю:
E=2G/(N*N);
E0= Amax * Amax(???)
(Amax=32768)

Если Вы имеете в виду те децибелы, что записаны в стандартах - то они не зависят от того что и как считать. Там тупо принято за 0 дб уровень в 1 в по максимуму в аналоге и всё считается по отношению к нему.
А что Вы насчитаете зависит от того как Вы приладите AFE или АЦП или, что там есть у Вас