Нет. Не знаю, какой был шаг, но размер RAW-файла (уже стертого) был под 10 мегабайт.... Счет был до 15 постоянных времени. Грубо - 10 байт на точку - миллион точек. 70 тысяч точек на постоянную времени...
Стратегия там простая - если при умельчении шага нет улучшения точности, шаг такой и остается... Но так как шаг мелкий, шагов много - ошибка копится. Там есть еще дефолты для сходимости - последовательное сопротивление к емкости и пр. - точно не помню. Пришлось убрать...

Не понимаю, зачем такая аптека. Это для цепи 1 порядка.
Вопрос. Что Вы будете делать, если порядок диф. уравнения будет 10 порядка ?
Раньше для инженерных расчетов хватало логарифмической линейки.
Мораль. За компьютером люди просто перестают думать (это мое субъективное мнение).

Спасибо за проведенное исследование. Я редко пользуюсь SWCAD по причине неудобного интерфейса, но фанаты утверждают, что программа использует "движок" spice. Возможно, это не так, учтём-с...

Дык а я о чём?! После проведения измерений автору вопроса придётся решать - браковать ли АЦП или списывать невязку на несовершенство "калибратора".
P.S. Ни один "калибратор" гарантированно не даст ни идеально прямоугольных, ни идеально трапецевидных импульсов. Даже при криогенных температурах . Так что правильно говорить не о "гарантированной плоскости", а о соответствии параметров поставленной задаче. Совершенно очевидно, что параметры, требуемые для данной задачи в её исходной формулировке, недостижимы в наколенном исполнении. Я также оцениваю их как недостижимые в лабораторных условиях. Кроме того, расчётная модель входной цепи слишком груба для заявленной точности.

Честно говоря, я вообще не усмотрел в теме каих- либо осознанно заданных парметров системы.Если, конечно не считать таковыми 24 бита.

А с чего Вы взяли, что я с помощью RC цепи собираюсь калибровать 24разрядный АЦП? Я же открыла тему со слов "хочу оценить качество работы АЦП" Когда инженер говорит о "качественных" оценках то идет речь о том, выполняет ли изделие свои функции. А когда надо что-то измерить, то речь идет о количественных характеристиках. И упаси меня боже, софтовую железячницу, от калибровки, от нормировки или от сертификации (свят,свят ). Вот подключила АЦП и качественно вижу: при кз на входе "гуляет" где-то 8 байтов. Шеф спрашивает: а сколько это в вольтах (т.е количественно)? А я ему ХЕЗ (мысленно,конечно ). Пущай аналоговики разбираются. Вот пример картинки. Для меня здесь важны сохранения формы сигнала и моменты начала преобразованияю. Они не совершенны. Будем смотреть почему. Есть ли тут вина цифровой части. Чую, что есть

Однако всем спасибо за ответы. Может что-то в будущем мне и пригодится. А пока нужна была формула. И она есть у меня .

А что, так сложно величину МЗР расчитать? В общем случае, Uref/(2^24-1)

Все не так просто. На входе АЦП встроен дифференциальный аналоговый драйвер, который обеспечивает требуемое масштабирование входного сигнала. Его пассивные элементы (R и C) доступны для регулировки. Но кто бы его регулировал с такой точностью и какими приборами? Кроме того, питание у АЦП однополярное, передаточная характристика не является линейной на всем диапазоне Uref. Вообщем гимору много. Поэтому пока речь идет о качественных оценках. Мне интересна (и доступна) битовая пляска на выходе и ее повторяемость в зависмости от повторяемого входного сигнала. А Цена деления меня пока не так волнует. К сожалению подключенные к проекту аналоговики слабоваты и мне приходится вникать в эту область.

Все равно нет здесь сложности. Вам, конечно, с точностью до 2e-24 откалиброваться не удастся никак, но хотя бы как-то вы это делаете? Иначе какой смысл мерять вообще? А х-ка преобразования почему существенно нелинейна? Что-то нелинейное на входе? Или Вы в шкалу не вписываетесь? "АЦП однополярное" тоже калибруется.

В строгом смысле нам "мерять" не придется. У нас не весы и не вольметр. Масштаб особой роли не играет, а важна однозначность преобразования одинаковых сигналов.
О нелинейности говорит производитель АЦП, который рекомендует использовать 80% от Uref. Диапазон измеряемых входных сигналов в пределах +-- 2.5В должен лечь на выходе драйвера в пределы +0,41В ... +3,685В. Вы правильно заметили - надо вписаться в эту шкалу.
Я потом выложу схему драйвера. Или Вы можете посмотреть в даташите на AD7760. Спасибо за интерес.

а Вы случаем не спектрометр делаете? (альфа- бета- гамма- рентген- и т.д. вариантов много) уж очень характерная задача: ступенька на входе, дифференциатор, отсутствие требований по калиборовке, зато требования по стабильности отклика, быстрый ацп.
хотя там 14 бит как правило выше крыше, или я что-то пропустил?

Бит, наверное? Всё равно многовато, мягко говоря, для К.З.-то.

фигуры 29...33 по даташиту: 8 бит шум при децимации на 8 - его норма, при децимации на 256 многовато...

Пусть Uref=4096 мВ. Для 24 битного АЦП, если 8 бит бьют, то 16 бит стоят.
Это - 0.06 мВ.

Думаю, что в самый раз. Для МЗР примерно 290 нв и полосы в 10 Мгц при, скажем, шуме, входного усилителя в 6 нв/гц-1/2 размах болтанки будет в районе 200 МЗР. Так что все сходится.