ситуация такая: в универе делаю лаб работу, вычисляю fft сигнала, делаю некоторые операции со спетром и обратное fft

так препод мне сказал что нужно каким-то образом задать точность всего это действия, а как не сказал. говорит сам думай...

есть какие-нибудь идеи решения этого вопроса?
смотреть по энергии?

Вероятно, ему хочется, что б ты просчитал, какой шум привнесёт эта схема преобразования сигнала по сравнению с "теоретически-безпогрешной". Шум вносит само преобразование плюс твои некоторые операции.
Если это так, то нужно оценить шум, если он слишком большой, то увеличить точность fft (на точность влияют и схема вычислений, и точность представления чисел). Если шум в нормальных пределах (зависит от уровня и типа обрабатываемого сигнала), то просто это всё обосновать.

могли бы вы уточнить, каким образом возможно оценить шум? (на вход подается прямоугольный импульс)

Сударь!
Смотрите первоисточники, например - ТИИЭР.
В т.60 N8 есть статья Оппенгейма и Вайнштейна-"Влияние конечной длины регистра
при цифровой фильтрации и быстром преобразовании Фурье". Там же богатая библиография.
Можно - "Радиотехника и Электроника", 1983, N1 - Анализ влияния конечной разрядности на эффективность цифровых фильтров выделения сигналов на фоне помех" и т.д.

Похоже, Вы совершенно не интересуетесь литературой по цифровой обработке сигналов, а жаль!

Можно и самому посчитать, если известна схема вычисления БПФ и ты хорошо понимаешь, сколько бит информации мы теряем при сложении и умножении чисел. Но проще взять оценочно из книг. Тем более если для препода - даже лучше будет.

А действительно имелась в виду точность ВСЕГО этого действия? Может все проще, и имелось в виду задать разрешение по частоте для БПФ для тех процедур которые Вы проводите между fft и ifft?