Кто в моментах высших порядков шарит, подскажите.., А также в нелинейной корреляции и всё в таком духе.... Опции

[Dr.Alex]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

[AndrewN]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

Да, банально... Тогда можно попробовать коррелировать круги... или треугольники...

Если серьёзно, то не помню. Надо посмотреть учебник по теорверу и мат статистике.

Навскидку, есть два случайных вектора из R², и есть гипотеза, что они связаны линейным преобразованием. Тогда можно подействовать оператором преобразования на не преобразованный вектор и сосчитать норму разности. Если гипотеза верна, то норма будет сосредоточена около нуля с малым разбросом. Это не совсем дисперсия, т.к. норма dist(T,T') >= 0. Но отношение dist(T,T')/||T'|| должно быть маленьким, много меньше 1.

Кроме того, я думаю, что этот метод не гарантирует проверки истинности связи; малости разности, возможно, можно добиться и другими способами.

Понятно, что этот метод работает только если преобразование (которое может быть и нелинейным в общем случае) известно. Если закон неизвестен, то надо подбирать многомерную модель и строить похожие гипотезы.

P.S. А моменты высших порядков и нелинейные (???) корреляции тут вроде и не причём...

Сообщение отредактировал AndrewN - Oct 12 2013, 18:51

[Dr.Alex]

Дак не известен оператор-то. а и б не известны, да ещё и могут медленно меняться.

Уверен, должен быть простой и элегантный способ для такого простого случая.

P.S. А моменты высших порядков и нелинейные (???) корреляции тут вроде и не причём...

Ну как это.. Корреляция это фактически момент второго порядка (ввиду своей близости к ковариации), а жытейская интуицыя подсказывает, что если аспирин не помогает, нужно просто взять порядок повыше. Но как...... :-о

[amaora]

Мне как-то не очевидно, что это возможно. Смотрю с геометрической стороны, две случайных величины задают точку на плоскости, в исходной системе координат величины независимы. Делаем поворот системы координат, вопрос, почему они должны быть зависимы в новой системе координат? Не должны, то есть существуют такие линейные преобразования отличающиеся от единичного котрые не приводят к зависимости величин. Можно предположить, что это ортогональные преобразования т.к. в этом примере был поворот.

Теперь алгебра. Линеное преобразование действует на матрицу ковариации известным образом, Pn = A P A'. То есть если начальная ковариация единичная, то в результате получается P = AA'. Обратно получить А из этого произведения можно разложением Холесского. Но ортогональная часть будет потеряна, это ясно из приведенной формулы и определения ортогональной матрицы AA'=I.

Итоговый ответ, исходное линейное преобразование идентифицировать невозможно. Можно только неортогональную часть с помощью разложения Холесского матрицы ковариации.

Забыл спросить: А исходные независимые X,Y известны? если да то это совсем другая задача, не то, что я подумал.

Сообщение отредактировал amaora - Oct 12 2013, 20:30

[Dr.Alex]

X и Y конечно неизвестны.

Уверен, что зависимость должна обнаруживаться при ненулевых а и б просто потому, что она видна при корреляции X'² и Y'², но по разным причинам мне такое решение не нравится.. :-/

[amaora]

Для этого конкретного случая наверно можно определить значение некого выражения от a и b, но не каждое из них. И это выражение корень из суммы квадратов a и b, похоже.

[Dr.Alex]

Да мне и не нужны а и б. А нужно, грубо говоря, чтобы высота пика корреляции была пропорциональна а*б, как это было бы в случае

X' = aX + bY
Y' = bX + aY

но знак минус при 'а' всё портит (в случае обычной корреляции), хотя на зависимость последовательностей он очевидно не влияет..

[amaora]

Если матрицу преобразования,

X' = aX + bY
Y' = bX — aY

поделить на sqrt(a^2+b^2) то будет ортогональная матрица. То есть можно это переписать вот так,

X'' = X sqrt(a^2+b^2)
Y'' = Y sqrt(a^2+b^2)
x = atan2(a,b )
X' = sin(x)X'' + cos(x)Y''
Y' = cos(x)X'' — sin(x)Y''

В первой части раздельное умножение на коэффициент, во второй поворот и отражение. Если исходные величины были независимы, то они ими и остаются. Навскидку дать нормальное доказательство не могу, но геометричеки мне кажется очевидным, что поворот независимых сл. величин не делает их зависимыми.

А и ещё, я почему-то предположил нормальное распеределение . Это все верно для него.

Сообщение отредактировал amaora - Oct 12 2013, 21:22

[amaora]

По поводу доказательства, переписывать сюда не буду,

ru.wikipedia.org/wiki/Плотность_вероятности
ru.wikipedia.org/wiki/Многомерное_нормальное_распределение

по первой ссылке написано как преобразуется плотность вероятности, по второй выражение для многомерного нормального распределения. По последнему видно, что ортогональные множители там сокращаются и не имеют эффекта.

Если распределение другое или исходная ковариация X Y не единичная (здесь надо какое-то другое слово на самом неле) то задача может быть разрешима.

Можете показать график со значениями X' Y' в виде точек на плоскости? И чтобы их было много и было видно "плотность".

[alex_os]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

Может эта статья будет полезна
http://www.unt.edu/rss/class/Jon/MiscDocs/Akaike_1974.pdf

[AndreyVN]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

Если на входе две случайные величины, то применимы методы многомерной статистики.
Там много чего придумано: анализ главных компонент, факторный, кластерный, дискриминантный и др. методы анализа.

[sifadin]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

Мне кажется нужно использовать совместную плотность вероятности
и условную плотность вероятности
Точно не могу сказать но копать нужно в этом направлении

[NickS]

Есть две независимые случайные последовательности X и Y с примерно равной дисперсией.

Сляпаем из них две другие последовательности, линейно комбинируя исходные::

X' = aX + bY
Y' = bX — aY

Очевидно, что X' и Y' являются зависимыми, но корреляции они не дадут.

А какой же метод применить, чтобы надёжно обнаружить очевидную связь этих последовательностей?

(Коррелировать квадраты X' и Y' не предлагать - слишком банально..)

как я понял у вас a, b, X, Y - неизвестны
вы можете получить какие то знания только по Y' и X'.
То есть грубо вы хотите из двух уравнений разрешить 4 степени свободы.
В принципе это не решается.

То что Y' и X' зависимы можно понять по взаимным корреляторам более высокого порядка.
Уже с третьего они будут в принципе не равны 0
<X'^2,Y'>=a^2*b*<X^3> + b^2*a*<Y^3>
я исхожу из того, что X и Y независимы, то есть все взаиные корреляторы любых порядков равны 0.
Наверное можно решить рассматривая
корреляторы третьего порядка.
Тогда получится 4 уравнения для 4 корреляторов <x'^3>; <X'^2*Y'>; <X'*Y'^2>; <Y'^3>;
и 4 переменных a; b;<x^3>; <Y^3>;
Их теоретически можно решить.
Либо если есть какие то знания о связи моментов разного порядка между собой
для x и Y. Тогда, может быть, можно решить используя только корреляторы первого и второго порядка.