Исходные данные - есть дискретные квантованные отсчеты некоторого сигнала. Мы знаем, что этот сигнал - выход некоторой механической системы, т.е. как минимум дважды дифференцируем. Более того, если надо, то мы можем априорно предположить некоторые ограничения на первую и вторую производные. Уровень квантования сигнала достаточно маленький по сравнению с диапазоном изменений сигнала. Частота дискретизации достаточно велика по сравнению со скоростью самого процесса. Скажем, дискретизация 1кГц при том, что в составе сигнала нет существенных компонент с частотами выше 50Гц.
Записанный процесс достаточно длинный - несколько сотен тысяч отсчетов, сигнал имеет совершенно произвольную форму (с учетом дифференцируемости), но преобладают низкие частоты.

Задача - как по имеющимся отсчетам оценить скорость? Какие есть оффлайновые методы? Если кто-то сможет дать ссылку на какой-то перечень или обзор, то было бы здорово. Рабочая среда - матлаб.

Я бы решал задачу так - прорядил бы отсчеты, взяв, например, каждый 20-й. Полученные отсчеты описал бы каким-то сплайном, а затем по найденному сплайну вычисли бы значения производной во всех исходных точках. Плюс - в матлабе это делается в две строчки, и если исходный сигнал достаточно гладкий, то получается приемлемая точность. Но при таком методе есть недостаток - выпадают промежуточные, прореженные точки, т.е. часть информации пренебрегается. Кто как решает, на какие методы стоит посмотреть?

тогда сразу натягивать на все точки кубический сплайн со сглаживанием, это когда натягивается новая сетка, на этой сетке как и в обычном сплайне строятся полиномы 3й степени, с теми же неприрывностями производных, только наименьшими квадратами по исходным данным и только в наименьших квадратах еще квадрат второй производной добавляется, чтобы резко не менялся.
а зачем вообще там сплайны? считайте скорость да фильтруйте

Спасибо за наводку на сглаживающий сплайн. Не очень понял, что вы имеете ввиду под "натягиванием новой сетки", но попробую разобраться.

А что вы имеете ввиду "считайте скорость и фильтруйте"? Вопрос - как именно считать и как фильтровать?

Дополню:
Так как квантование все-таки есть, то обработка экспериментальных (как и модельных) данных показывает - брать каждый отсчет даже для сглаживающего сплайна - нехорошо. Допустим, у нас некоторая небольшая постоянная скорость. Исходный сигнал представляет из себя, соответственно. прямую. Однако из-за квантования он выглядит как пять точек на одном уровне, ступенька, пять точек на следующему уровне, ступенька, и так далее. Если все точки использовать для сглаживающего сплайна, то он будет стремиться минимизировать расстояние до всех точек и аппроксимирующая кривая будет так же похожа на ступеньки, только сглаженные. В результате оценка производной по такой кривой весьма паршивая. Если же прорядить исходный сигнал и построить сглаживающий сплайн по каждому k-ому отсчету, то это затруднение исчезает при хорошем выборе k.

Еще дополнительно: Разобрался, что проблема может быть решена выбором настраиваемого параметра при сглаживающей интерполяции. Т.е., почти такая же такая же степень свободы, как и шаг прореживания, разве что шаг можно (при большом желании) выбрать неравномерным. Есть ли какие-то рекомендации по выбору параметра в сглаживании сплайном, кроме как пробовать и смотреть?

Y'[i] = (Y[i]-Y[i-1]) / (X[i]-X[i-1])
а дальше любой ФНЧ, z = z + (y-z)/K

Это работало бы, если бы пренебрежимо малое квантование. А так после вычисления первой разности мы получим чудовищно зашумленный сигналы, до уровня непригодности. А дальнейшая фильтровка приведет к существенной задержке.
И это не оффлайн метод.

Сначала ФНЧ, затем дифференцировать. ФНЧ ограничит полосу и не даст развалиться дифференцированию.

ps
Естественно, без прореживания. Прореживание без фильтрации смысла не имеет в данном случае.

Использование ФНЧ приведет к появлению задержки, что, естественно, нежелательно. Конечно, я могу пропустить сигнал через фильтр типа s/(a*s+1) или аналогичный, но смысл? Это никаким образом не использует того, что у нас уже есть все отсчеты и что мы работаем оффлайн и можем себе позволить трудоемкие вычисления.

Если Вы работаете offline, то что Вам до задержки. Она фиксирована и строго определена фильтром.

операции линейные, от смены очерёдности результат никак не поменяется.

сделайте КИХ фильтр (у него ФЧХ линейная), сдвинув его на пол длинны, никакой задержки не будет.

Простите, какая задержка фиксирована и строго определна фильтром, если мы говорим о произвольной глакой форме сигнала? UPD. Простите, понял. Вы тоже про КИХ говорили?


Сдвинув его на половину длины чего? Простите, я вас не понимаю. UPD: Ага, кажется понял на счет сдвига на половину и устранение задержки. Какую форму фильтра стоит выбрать? Я сейчас поэкспериментировал с различными дифференциаторами, которые мне Matlab fdatool считает, дошел до порядка 300, но результат по качеству весьм далек от сглаживающего сплайна с хорошо выбранным коэффициентом сглаживания или с прореживанием.

да об чем речь? Конечно не поменяется. Но тут хотят прореживать/интерполировать/дифференцировать. Дык этот подход есть есть лажа.





На половину длины импульсной х-ки фильтра. Форма никакой роли не играет (если речь идет о фнч)

Почему?


Под формой я имею ввиду форму АЧХ фильтра. Как так роли не играет... я, конечно, в ЦОС не особо, не моя тематика, но эксперименты показывают, что очень даже играет. На сколько я понимаю, АЧХ в полосе пропускания должна быть как можно ближе к единице и все отклонения будут сказываться.
Скажите, пожалуйста, что именно вы имеете ввиду, когда говорите "дифференцировать" применительно к задаче? Просто первая разность?


Вспомнил, что в матлабе есть такая замечательная функция filtfilt! Можно обойтись без КИХ фильтров, использовать БИХ. Вроде, результат должен стать получше.

у БИХ фазовая характеристика не линейная, соответственно задержки будут не постоянны, как в случае с КИХ, а будут зависеть от формы сигнала.

На сколько я понимаю, именно это и компенсируется функцией filtfilt. Разве нет?

Да зачем прореживать, чтобы потом интерполировать? Тем более, сплайном.
Оставляем сигнал на исходной частоте дискретизации, обрабатываем фнч с полосой равной полосе полезного сигнала (тем самым уменьшаем мощность шума) и потом обрабатываем ких с их [0.5 -0.5]. Чх такого фильтра близка к х-ке дифференциатора вблизи 0. Если сигнал проредить, придется использовать широкополосный дифференциатор.

Если обработка оффлайн, можно использовать бих фнч, но с 2-й фильтрацией сигнала (после 1-ой фильтрации сигнал фильтруется еще раз задом на перед). Фаза сигнала после такой фильтрации не изменится, но будет квадрат ачх. Матлабский аналог filtfilt.

1) Если в самом сигнале шумов нет и все проблемы связаны только с квантованием, то прореживание, как мне кажется, даст эффект, близкий к сглаживанию фнч, но без смещения. А потом по сглаженному сигналу оценить производную - такая была исходная идея.

2) Да, действительно, на моих модельных данных filtfilt БИХ ФНЧ + первая разность дают приличный результат. Но, все же, чуть хуже и менее гладкий, чем сглаживающий сплайн с последующим дифференцированием. Возможно, дело в том, что хорошо подобрать один сглаживающий параметр проще, чем ФНЧ. Могу выложить исходные данные.

2) Если бы речь шла про онлайн, то есть эффективные методы, практически не уступающие по фильтрации фнч+дифференциатор, но почти не дающие задержки - тот же slliding differentiator. Задача в том, что оффлайн обработка должна дать лучше результат, чем то, что можно получить онлайн.

Вот скрипт иллюстрирующий оценку производной при помощи fir-дифферециатора.


Точность оценки может быть 10^-6 и круче...

Спасибо за код.

Смотрите, убираем вашу строчку

а после вычисления ds добавляем:


И результаты заметно ухудшаются. Как повысить точность оценки?
Я, кстати, возможно погорячился на счет 50 Гц. Можно, наверное, 15 Гц ограничить.

Это была иллюстрация. Ваши поправки требуют изменений:

Но Вы же не можете знать, как на самом деле ведет себя система. Может, скорость не постоянная, и там, где Вы видите ступеньку, а думаете, что там прямая, там ступенька и есть на самом деле.

Спасибо!
У меня пара вопросов осталось, если не трудно:
1) Из каких соображений L=300 заменили на L=200? И отсечение с 1.6*Fmax на 1.5*Fmax?
2) Почему

а не, например,

Мне упраженения показывают, что второй лучше дает результаты, нет колебаний в начале и конце отрезка, но я от ЦОС далек и не знаю.

UPD: Есть, правда, один недостаток. Если теперь в примере убрать синусоидальные компоненты и оставить только ускоренное движение (s=pos'+0*s;
ds=vel'+0*ds), то результрующая оценка скорости будет сильно колебаться вокруг истинного знаечния. Предполагаю, что это как раз из-за квантования. Как быть в этом случае?



В общем случае это совершенно справедливое замечание.
В тех конкретных примерах, которые я держу в голове и моделирую, речь идет именно о невыскоих скоростях. Это можно косвенно оценить, например, по физическому смыслу эксперимента и по другим наблюдаемым состояниям. При оценке скорости я хотел задать это как ограничение на ускорение, что, в принципе, срабатывает при использовании сглаживающего сплайна. При использовании фильтров такое ограничение, видимо, должно регулироваться через настройку полосы пропускания.

Если сделать ограничения на ускорение и скорость, то такой алгоритм будет нелинейным... А все Ваши фильтры...
И мелкие ступеньки могут скрывать все, что угодно. Их никаким образом невозможно "правильно приукрасить"

Tanya, простите, а в чем смысл вашего коментария?
Вы считаете, что методы (сглаживающий сплайн, фильтр) не позволяют ограничить ускорение и/или высокочастотные компоненты аппроксимирующей кривой? Или считаете, что неправильно их ограничивать основываясь на физическом смысле процесса?

Можно чуть повысить точность меняя х-ки дифференциатора. Но вообще-то - ловля блох...



Непринципиально. В любом случае в начале и в конце отсчеты числом равным половине длины дифференциатора будут кривыми.



ФНЧ, ограничивающий полосу полезного сигнала

например

Но если взять такой фнч, то при наличии синусоидальных компонент, он их съест.

На данный момент я пришел к выводу, что при налчии среднечастотных колебаний стоит использовать один метод (дифференциатор со сдвигом), а если таких колебаний нет и появляются ступеньки из-за квантования, то другой метод (предварительный фнч или сгл. сплайны). К сожалению, пока у меня не получилось сформирвать метод, который хорошо работал бы и в том случае, и в другом. Жаль.
Большое спасибо за помощь!


Да, но степень кривизны получается разная. Возможно, еще лучше поставить x(1)*ones(1,L) - тогда хотя бы разрыва фильтруемого сигнала не будет. А вообще, конечно, к недостаткам метода надо отнести, что L точек теряется. На больших данных это фигня, конечно, но все же.

Это я к тому, что вот, допустим, имеется длинная ступенька в один квант расстояния. Никакими сглаживаниями нельзя восстановить "правильную скорость". Ограничение на скорость даст только небольшое уменьшение пространства.
У Вас ведь реальная система подчиняется "правилам", поэтому все ступеньки уже должны быть "правильными".
Вы же, насколько я понимаю Вас, не считаете измерения зашумленными, когда всякие там методы фильтрации были бы уместны... Через Ваши ступеньки можно провести сколько угодно сколь угодно гладких кривых, удовлетворяющих "правилам" - с ограниченной первой и второй производными. Почти всегда.

Я не пойму, к чему вы ведете. Вы считаете, что рассмотренные методы по каким-то причинам нельзя использовать? Или хотите предложить более удачные решения?

Да, существует множество кривых с ограниченными производными, которые после квантования дадут одинаковый набор измерений, это очевидно.
Если я вижу набор ступенек, то буду искать движение с малым интегралом квадрата ускорения (ну или с отстутсвующими среднечастотными составляющими). Логика простая - проще предположить отсутствие колебаний, чем такие специальные колебания переменной частоты, что их не видно в измерениях. В зависимости от штрафа за ускорение или полосы пропускания я, естественно, буду получать разные кривые, но они будут близки друг к другу. Если же я увижу осцилляции в измерениях, то буду искать движение, в котором есть среднечастотные компоненты.


Придумалась такая возможная идея.
Параметризуем алгоритм аппроксимации некоторым параметром Q . Это может быть или штраф за ускорение, или полоса пропускания фнч. Чем Q меньше, тем более сглаженный и низкочастотный сигнал получается на выходе. Далее этот выходной сигнал квантуем с известным шагом квантования. И считаем отклонение исходного сигнала от проквантованного сглаженного. Далее два варианта: либо найти наименший Q, при котором имеем нулевой отклонение, либо минимизировать некоторый критерий, сочетающий норму отклонения и штраф за величину Q.
Т.е. найти самую низкочастотную кривую, которая после квантования будет близка к исходному сигналу.
UPD: Действительно, я сейчас промоделировал - работает, по первым прикидкам, очень неплохо. И для сигналов с среднечастотными колебательными компонентами, и без таких - один и тот же код выдает очень хорошую оценку скорости. Уф.

Да что там мудрить... Проводите ломаную между точками - наклон - это скорость. Получается лестница со ступеньками. Ускорение только в точках квантования будет бесконечным. Модифицируем картинку - вертикальные кусочки меняем на наклонные (с максимальным наклоном) - вот и поправили. Если у Вас имеются априорные данные о связи ускорения со скоростью или координатой, - учитываем это.

Это вы мне первую разность предложили использовать? Шутите, что ли? Или тонкий сарказм?

Это не задача ЦОС, это задача идентификации динамической системы и построения оптимального наблюдателя за вектором состояния системы.

Да, если бы решалась онлайн. Как я уже писал выше, для этой задачи есть хорошие онлайн методы в теории управления.
Кстати, задача несколько отличается от стандартной задачи наблюдателя, так как вход системы не измеряем. Тут потребуются некоторые более advanced методы. А задчи идентификации я тут вообще не вижу, так как нет неизвестных параметров, которые требовалось бы идентифицировать.

Но я предположил, что, возможно, есть какие-то методы из смежних областей, например ЦОС, о которых я не знаю, но они могут хорошо сработать в оффлайн.

Нисколечко...
Вот если бы у Вас была модель, то Вы бы могли обучить нейронную сеть или какую-нибудь искаженную (женскую) логику.
Это если бы Вы знали какие-то зависимости и ограничения на функцию и ее производные.
А если не знаем, то может быть любое, построение которого я и предложила. Если результат Вы отвергаете, значит знаете нечто априори, что отвергает такое решение.
А искать философскую формулу - задача для алматематики.

>Да, если бы решалась онлайн.

Не имеет значения - офф или он.
Если параметры модели известны - на основе обратной модели вычисляете вход, затем на основе входа и прямой модели - ненаблюдаемые переменные состояния.

Модель - два интегратора с неизвестным сигналом на входе. Какая такая обратная модель? Дифференциатор второго порядка? Так задача и сформулирована - как по набору измерений провести дифференцирование хотя бы первого порядка. А вы предлагаете сразу восстанавливать оценку входа (ускорения). Как?


Если бы у меня была какая-то более информативная модель, чем два интегратора, а, еще лучше, какие-то входные сигналы этой какой-то модели, то я бы, как правильно пишет TSerg, рассматривал бы задачу в контексте идентификации и построения некоторого наблюдателя. Но у меня нет ни того, ни другого. Давайте оставаться в рамках постановки задачи.

Пожалуйста, прочитайте тему с начала. Там есть про ограничения на значения скорости и усорения, про ограничения на частотные компоненты (что будет порушено при взятии первой разности). И даже немного про выбор кривой из семейства за счет штрафа на ускорение. Более того, уже было предложение использовать первую разность. И был мой ответ.

Давайте воздерживаться от таких высказываний.

Если бы Вы тоже внимательно читали, то воздержались бы от подобных высказываний. Я предлагала сглаживать ступеньки с учетом ограничений.
Вот тогда и симулируйте - случайное значение ускорения (или еще какие условия от положения или скорости) интегрируем (знаем идеальную скорость), интегрируем второй раз - идеальное положение, квантуем и получаем наблюдаемый сигнал...
И тренируем женскую логику или имитатор кусочка мозга. Вот что я и предлагала.
А чем Вам не нравятся мои высказывания?

Т.е. вы прелагаете построить и обучить некоторую нейронную сеть, которая по набору квантованных измерений положения будет выдавать хорошую и не сдвинутую оценку скорости, так? И будет хорошо работать во всем диапазоне входных сигналов? Я с нейронными сетями знаком очень поверхностно, но в области управления не припомню никаких работ, где бы использовались дифференциаторы, построенные на нейронных сетях. Можете указать такие статьи/книги? Или сами что-то подобное делали?

Пожалуйста, не надо писать про женскую логику. Мне неприятно.

Вот у меня нет критерия "хорошести". Ведь квантование искажает картинку. Даже если бы квантование по ординате было более мелкое, квантование по времени внесет всегда ошибку в вычисление скорости и ускорения.
Если нет ограничений, то невозможно получить ничего хорошего. Чем теснее ограничения, тем лучше будет получаться. Но ведь нет другого пути?
Хорошо, буду использовать alias (или эвфемизм) - FUZZY.
Сети очень давно не трогала... Когда-то были free пакеты.

Видимо, я раньше не достаточно отчетливо высказал мысль, что из множества кривых, описывающий квантованные данные, я хочу выбрать ту, где наименьший квадрат ускорения. Или где наименьший вклад компонентов с большими частотами. Т.е. если две кривые описывают квантованные данные, но у одной существенно преобладают низкие частоты, а у другой заметно присутствуют среднечастотные, то первая кривая лучше. Вот такой у меня критерий "хорошести", который проистекает из физическиой природы сигнала.

Я же не про пакеты спрашивал, их бесплатность меня на данном этапе вообще не волнует. Я спрашивал, известны ли вам успешные примеры использования нейронных сетей для решения поставленной задачи. Из литературы или из личного опыта. Мне - не известны.

Что значит выбрать с наименьшим квадратом ускорения? Если Вы знаете, в каких пределах лежит реальное ускорение. то из этого и нужно исходить. Вы еще можете наложить ограничение на третью производную при моделировании. А что до частот, то при дифференцировании всегда возрастают высокочастотные компоненты...
Про сети. Я такие примеры знаю, но это коммерческий проект. Не скажу. Сеть ведь не знает ничего про физический смысл... Берет себе разности... Вы еще в данном случае должны определиться с временным интервалом. Если ускорение скачет раз в секунду, то это тоже нужно учесть, выбирая правильное число точек в секунду для анализа.

Минимизировать штраф, пропорциональный интегралу квадрата ускорения.


Спасибо, я вас понял.

А откуда такие условия? Вот если у нас есть две "точные" точки (время, координата), то мы уверенно можем сказать, что средняя скорость равна (Вы будете смеяться?) разности координат, деленной на разность времен. Мы можем положить скорость константой на этом интервале - соответственно, ускорение равно нулю (прекрасно), но для следующей точки, если мы будем придерживаться этого подхода, придется принять, что ускорение сделало дельтаобразный выброс. а потом опять стало постоянным... нулем.
Не нравится? Берем три точки. По ним можно точно определить начальную скорость и ускорение (если мы положим его постоянным). Таким образом, ничего не удается минимизировать.

Рискну предположить, что речь идет, к примеру, об [электро]приводе чего-либо, с фиксацией значений угловой или линейной координаты.
Это не совсем двойное интегрирование, но допустить можно.

Будьте смелее в части технического описания задачи и условий.

P.S.
Было бы неплохо скинуть реализацию процесса, хоть бы и в приват - если данные жутко секретные

А принципиально? Хорошо, пусть это будет выход электропривода - двойное интегрирование неизвестного неизмеряемого момента, деленного на момент инерции. Или пусть это будет линейный гидропривод - двойное интегрирование неизвестной неизмеряемой силы, деленной на массу. Мне кажется, это никак не упрощает, да и вообще не меняет исходной задачи. Нет?

Если мы ведем речь о динамической, возможно упрощенно линейной системе, то методы идентификации ее параметров или уточнения их давным давно изучены.
Есс-но, нужна более правдоподобная модель, чем просто два интегратора, но даже и такой случай не критичен.
Что это дает?
Это дает правильное понимание методических и алгоритмических возможностей по извлечению полезных (внутренних) сигналов из выходных наблюдаемых координат.
Каким бы ни был вход, корреляционная функция выхода хорошо будет известна в рамках принятой модели, а ее уточнение - чисто техническая задача.
И опирается такой подход на теорию динамических систем, классический стат. аппарат и предельные теоремы.
Если говорить о теоретико-методическоих подходах, то это два основных: метод пространства состояний и метод ошибки предсказания.

P.S.
Заодно уж найдите и почитайте о "традиционном" подходе, предложенным Тихоновым Андреем Николаевичем в его трудах "Методы решения некорректных задач", Наука 1974-1979

P.P.S.
Задача ЦДС давным давно решена разными способами в рамках тех же ПВО и ПРО, иначе бы С-300 промахивались

В целом, все ваши рассуждения об известной динамической моедли и тому подобном - справедливы. Но это все - общие слова. Я испытываю некоторые сомнения, что они существенно пригодятся для решения данной задачи. Какие методические и алгоритмические возможности можно вытащить из этой информации, которых нет в изначальной постановке задачи?


Я интересуюсь оффлайновыми методами, которые, по моему убеждению, могут дать более точную оценку скорости, так как используют больший объем информации, в том числе информацию из будущего, которая онлайновым методам недоступна.


Постараюсь посмотреть. Что-то конкретно, или всю книгу вообще?


Выкладываю данные. Это модельные данные, так что исходная скорость известна. Тут t - время, x1, w1 - положение и скорость в первом эксперименте, x2, w2 - положение и скорость во втором эксперименте, quant_size - размер кванта. Отличаются два эксперимента наличием среднечастотных составляющих, до 50 Гц. Я ищу метод, который в обоих случаях дает оценку, близкую к модельной скорости. Пока лучше всего себя показывает подход, который я описал в сообщении #27. Полученные этим методом скорости в переменных est_w1, est_w2.

4-я глава 6 параграф.

Спасибо, посмотрел. На сколько я с наскоку понял, это просто о регуляризации. Т.е. сглаживающий сплайн тоже является частным случаем подхода, рассмторенного в книге. А параметр регуляризации альфа предлагается выбирать "по невязке", т.е., если я правильно понял, подбором.

Из новомодных - Hilbert–Huang transform (HHT):
empirical mode decomposition (EMD) + intrinsic mode functions (IMF)
(огибающие сглаживаются кубическим сплайном или скользящим квадратичным полиномом).

Еще можно взглянуть на Майстренко, Старовойтов "ЦДС с применениме многоточечных методов" и др. их работы. НГУ, Томск

Да. В любом случае все действия сводятся к аппроксимации исходной последовательности гладкой функцией. Суть низкочастотная фильтрация.

Выглядит интересно. К сожалению, вряд ли я стану сам это программировать, а готовых пакетов в матлабе не нашел.

Онлайн.