есть две синусоиды, частота 250 - 270 Гц, сдвиг фазы 5 - 100 нсек, частота дискретизации АЦП 44 кГц, 16 бит синхронно два канала. теперь вопрос: как на частоте дискретизации 44 кГц ADSP видит сдвиг в 5 наносекунд?

А почему бы и нет?!. Структура такая в каждом из каналов полосовой фильтр 250- 270 Гц далее стоит два преобразователя Гильберта на выходе их комплексные сигналы x, y.Фаза измеряется чисто "в лоб"
dfi = arg(x*conj*(y)). Далее 5 нс соответсвует разности фазы dfi = 5e-9*250*2*pi ~ 1E-5. Это означает, что если принять уровень входных сигналов синусоид = 1, то уровень сигнала на выходе датчика фазы будет 1E-5, то есть нужно отношение сигнал шум порядка 20*log10(1/1E-5) = 100дб. SNR на выходе АЦП порядка 16*6 = 96 дБ. SNR на выходе фильтров порядка: 96+10*log((270 - 250)/22000) = 126 дБ. Вывод с точки зрения чистой цифры вполне возможно измерить сдвиг фазы с таким разрешением, скорее всего сложности будут в аналоговой части идентичность трактов, точность согласования АЦП и пр.