Цитата(Kovrov @ Feb 9 2006, 20:04)

обычно я делаю калибровочную таблицу на 32 замера, потом все хозяйство апроксимирую
но че то надоела мне эта кусочная апроксимация?
что скажете коллеги?
А АЦП сколько-разрядный? Если больше 5, то компенсацию дифф. нелинейности по 32-м точкам произвести не удастся. С дифф. нелинейностью можно попробовать бороться путем подмешивания в сигнал шума с эфф. значением > ~2 ЕМР и оверсэмплинга с последующим прореживанием. Шум желательно иметь внеполосный, т.е., не перекрывающийся с полезным сигналом в спектральной области..
Количество к-тов для полиномиальной компенсации инт. нелинейности зависит от ее характера для конкретного АЦП и должно определяться индивидуально. Иногда производитель указывает типовую нелинейность АЦП, что является хорошей отправной точкой для его дальнейшего исследования.
Самонадеянность слепа. Сомнения - спутник разума. (с)