|
|
  |
Быстрое сжатие без потерь, реализация в FPGA |
|
|
|
Feb 15 2008, 13:11
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(blackfin @ Feb 15 2008, 14:39)  Не приписывайте мне то, чего я не говорил..  Простите, но вы предлагаете конкретный способ, не удосужившись получить даже реализацию сигнала. Ваш подход - волюнтаризм чистой воды, а совет - вреден. Цитата(blackfin @ Feb 15 2008, 14:39)  Сами попробуйте.. Мне это не нужно..  Даже пытаться не буду. Лучше поведайте, кто Вам сказал, что это вообще возможно?  ЗЫ. Ах, да. В википедию-то я и забыл заглянуть... Цитата(fontp @ Feb 15 2008, 14:40)  Ну... ход мысли-то понятный. Тот имидж с треками, что выше, наводит на мысль быть сжатым без потерь jpeg2000 и всё такое... Треки эти всё таки двумерные коррелированости А зачем нужны вэйвлеты, может, Вы поясните тёмному? ;) Цитата(rv3dll(lex) @ Feb 15 2008, 15:30)  судя по картинке в 2 раза можно сжать используя дельто сжатие с переходом в полноразмерное... Ой, мамО... А может, не надо так-то, сплеча? Иначе объём данных увеличить рискуете.
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
Feb 15 2008, 13:27
|

Эксперт
    
Группа: Свой
Сообщений: 1 467
Регистрация: 25-06-04
Пользователь №: 183

|
Цитата(Stanislav @ Feb 15 2008, 16:11)  А зачем нужны вэйвлеты, может, Вы поясните тёмному?  Неплохая картинка должна сжиматься методами, предназначеными для изображений. В частности JPEG2000, вообще любыми двумерными, которые сжимают линии любой ориентации. В JPEG2000 есть сжатие без потерь, почему не попробовать? Другое дело, что картинка получена скорее всего вторичной обработкой и никто не захочет проделывать эту обработку на борту телескопа. А в исходном представлении сигнала корреляции не проявляются
|
|
|
|
|
Feb 15 2008, 13:36
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(fontp @ Feb 15 2008, 16:27)  Неплохая картинка должна сжиматься методами, предназначеными для изображений. Скажите, а почему вэйвлеты используются для сжатия именно изображений? Цитата(fontp @ Feb 15 2008, 16:27)  ...В частности JPEG2000, вообще любыми двумерными, которые сжимают линии любой ориентации. В JPEG2000 есть сжатие без потерь, почему не попробовать? Иными словами, соответствие входной и выходной информации после кодека обеспечивается с точностью до бита, я правильно понял? Цитата(fontp @ Feb 15 2008, 16:27)  ...Другое дело, что картинка получена скорее всего вторичной обработкой и никто не захочет проделывать эту обработку на борту телескопа. А в исходном представлении сигнала корреляции не проявляются Что значит "не проявляются"?  ЗЫ. Можно, конечно, подобно слепым щенятам, тыкаться в разные стороны и подбирать способ сжатия методом проб и ошибок. Только, может так статься, что для решения задачи не хватит и целой жизни.
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
Feb 15 2008, 14:13
|

Эксперт
    
Группа: Свой
Сообщений: 1 467
Регистрация: 25-06-04
Пользователь №: 183

|
Цитата(Stanislav @ Feb 15 2008, 16:36)  Скажите, а почему вэйвлеты используются для сжатия именно изображений? Иными словами, соответствие входной и выходной информации после кодека обеспечивается с точностью до бита, я правильно понял? Что значит "не проявляются"?  ЗЫ. Можно, конечно, подобно слепым щенятам, тыкаться в разные стороны и подбирать способ сжатия методом проб и ошибок. Только, может так статься, что для решения задачи не хватит и целой жизни.  1) Так оказалось. Кодирование сигналов разной природы всегда строилось на том, что сделать некое преобразование обнаруживающее некоторые статистические аномалии присущие сигналам данной природы + провести энтропийное кодирование. Перепробовали много всяких преобразований, все известные перепробовали (учёные как шакалы!), вейвлеты дали лучший результат для изображений. Для звука не дали :-) 2) Ну да. Без потерь - без маскирующей или психофизической ерунды 3) Не проявляются значит в исходном представлении вероятности равномерно распределены и энтропийное кодирование не заработает ЗЫ. Ещё раз - картинка достаточно хорошая, чтобы её кодировать методами характерными для картинок. Не морочьте мне голову. Я в прошлой жизни сам был доктор наук по обработке изображений типа Ярославского :-)
|
|
|
|
|
Feb 15 2008, 22:10
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(fontp @ Feb 15 2008, 17:13)  1) Так оказалось... Простите, но, мне кажется, что так отвечать на прямо поставленный вопрос в технической теме не следует. Цитата(fontp @ Feb 15 2008, 17:13)  ...Кодирование сигналов разной природы всегда строилось на том, что сделать некое преобразование обнаруживающее некоторые статистические аномалии присущие сигналам данной природы + провести энтропийное кодирование. Чешуя какая-то, ещё раз простите. Может, просто не понял правильно... Вэйвлет-разложение видеокартинки, с последующим "сжатием", в смысле информационных потерь, ничуть не лучше любого другого способа кодирования, включая косинусное, уолшево, фурье, и т.д. ФишкА в том, что вэйвлеты некоторых видов, при использовании их в видеокодеке, порождают меньшее количество перцептуально-значимых артефактов, поскольку способны с меньшими погрешностями передавать субъективно существенные для человеческого восприятия детали. В остальном, вэйвлет-кодирование, по сравнению с другими известными способами, имеет принципиально бОльшую величину разностной ошибки (в частности, яркостного шума по всей площади картинки). Просто дело в том, что эта ошибка человеческим мозгом "фильтруется", и не является раздражающим фактором.
Соббсно, вот и вся теория. Цитата(fontp @ Feb 15 2008, 17:13)  ...Перепробовали много всяких преобразований, все известные перепробовали (учёные как шакалы!), вейвлеты дали лучший результат для изображений. Для звука не дали :-) Дык, вопрос-то мой и был: почему? Ответ также прост: ухо - не глаз; его не обманешь. Любые искажения им фиксируются весьма чётко. А вэйвлеты, даже сконструированные самым хитрым образом, не соответствуют ни структуре аудио сигнала, ни механизму восприятия звука человеком (будете удивляться, но вполне адекватная модель восприятия изображения человеком уже давно существует, а звука - нет). Поэтому, для компрессии звука используется технологии, в корне отличающиеся от таковых для изображения. Причём, поскольку механизм восприятия звука не ясен, для кодирования разных сигналов (речи, музыки) используются также совершенно разные подходы. Цитата(fontp @ Feb 15 2008, 17:13)  2) Ну да. Без потерь - без маскирующей или психофизической ерунды До бита - это значит, до бита. Иными словами, выходной цифровой массив кодека при сравнении с исходным, не должен содержать ни одной несовпадающей единицы информации. Смысл "сжатия без потерь" я понимаю именно в этом контексте. Думаю, "товарисчи учёные, доценты с киндидатами" меня в этом вопросе всецело поддержат. ЗЫ. Астрономию я очень уважаю, слежу за её успехами постоянно. Поэтому, "волюнтарисського" подхода к процессу обеспечения исследований здесь не потерплю. Цитата(fontp @ Feb 15 2008, 17:13)  3) Не проявляются значит в исходном представлении вероятности равномерно распределены и энтропийное кодирование не заработает А я вот, например, могу Вам сказать, прям с ходу, что степень (авто)коррелированности случайного процесса, даже так убого представленного на картинках, очень высока. Кроме того, автокорреляционный анализ - вовсе не единственно доступный. И ещё: никакими хитрыми преобразованиями Вы не сможете, не внося отсебятины, увеличить меру наполнения сигнала информацией (ибо это есть величина диссипативная), а также степень его коррелированности... ЗЗЫ. Меня когда-то учили: если с наскоку не можешь описать сигнал статистически, считай моменты. Цитата(fontp @ Feb 15 2008, 17:13)  ЗЫ. Ещё раз - картинка достаточно хорошая, чтобы её кодировать методами характерными для картинок. Не морочьте мне голову. Я в прошлой жизни сам был доктор наук по обработке изображений типа Ярославского :-) Типа Губельмана, что ли?
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
Feb 15 2008, 23:03
|
Гуру
     
Группа: СуперМодераторы
Сообщений: 3 096
Регистрация: 16-01-06
Из: Москва
Пользователь №: 13 250

|
Да нельзя сжимать данные с радиотелескопов, ускорителей и т.п. Поскольку ищутся обычно сигналы и события с неизвестными заранее характеристиками. Поэтому исходно они неотличимы от шума с точки зрения любого алгоритма, а шум, как известно, не жмется. Вон с БАКа из ЦЕРНа по всей Европе волокна растягивают для передачи СЫРЫХ данных в различные научные центры, а уж казалось бы чего - проще - взял да и пожал, почистил от случайных событий ... Другое дело, если надо выделить конкретное что-то типа Вашего пульсара - тогда можно и в миллион раз пожать без потери информации - обычно характеристик сигнала весьма немного.
--------------------
Не бойтесь тюрьмы, не бойтесь сумы, не бойтесь мора и глада, а бойтесь единственно только того, кто скажет - "Я знаю как надо". А. Галич.
|
|
|
|
|
Feb 16 2008, 00:25
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(DS @ Feb 16 2008, 02:03)  Да нельзя сжимать данные с радиотелескопов, ускорителей и т.п. Простите, напомню: в теме идёт речь о "сжатии" данных без каких-либо потерь информации.
Всё написанное здесь "около того" есть ничто иное, как словесный спам. Кто сказал, что эти данные нельзя жать, например, зипом? Только этот способ коряв, потому, что далёк от оптимума. Цитата(DS @ Feb 16 2008, 02:03)  ...Поскольку ищутся обычно сигналы и события с неизвестными заранее характеристиками. Если так, характеристики можно оценить адаптивно; выбирать придётся только метод, исходя из априорных сведений о структуре сигнала. Если автор темы соизволит выложить файлы данных (лучче несколько реализаций, не менее миллиона отсчётов каждая, чтоб вопросов потом не возникало), смогу продемонстрировать, как примерно это надо делать. Цитата(DS @ Feb 16 2008, 02:03)  ...Поэтому исходно они неотличимы от шума с точки зрения любого алгоритма, Кто это сказал? Почему данные именно неотличимы от шума? Я на картинках вижу прямо противоположное. Цитата(DS @ Feb 16 2008, 02:03)  ...а шум, как известно, не жмется. Шум, кстати, жмётся лучше всего.  Например, белый гауссовский шум определяется только одним своим параметром - спектральной плотностью мощности, так, как не несёт больше никакой информации. Цитата(DS @ Feb 16 2008, 02:03)  ...Вон с БАКа из ЦЕРНа по всей Европе волокна растягивают для передачи СЫРЫХ данных в различные научные центры, а уж казалось бы чего - проще - взял да и пожал, почистил от случайных событий ... И что из того? И почему что-то обязательно нужно "чистить от случайных событий"? Пусть изгаляются, если хотят. В данной теме речь идёт вовсе не об этом. Кроме того, при малых отношениях С/Ш сжималки становятся малоэффективными. Здесь опять же не тот случай, а как там в ЦЕРНе - не интересовался. Цитата(DS @ Feb 16 2008, 02:03)  ...Другое дело, если надо выделить конкретное что-то типа Вашего пульсара - тогда можно и в миллион раз пожать без потери информации - обычно характеристик сигнала весьма немного. Смысл любой хорошей сжималки заключается в том, чтобы представить статистические закономерности исследуемого процесса параметрически.
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
Feb 16 2008, 00:42
|
.
     
Группа: Участник
Сообщений: 4 005
Регистрация: 3-05-06
Из: Россия
Пользователь №: 16 753

|
Сильно сумневаюсь, что на скорости входных данных 250 MB/sec можно будет организовать хоть сколько-нибудь сложный алгоритм сжатия. Это к вопросу об рабочей тактовой FPGA. Цитата(Stanislav) Цитата(rv3dll(lex)) судя по картинке в 2 раза можно сжать используя дельто сжатие с переходом в полноразмерное... Ой, мамО... А может, не надо так-то, сплеча? Иначе объём данных увеличить рискуете. Это вряд ли. Дело в том, что подобный дельта поток включается адаптивно (на уже проанализированной последовательности) в ситуации когда он однозначно уменьшает поток, иначе же он не включается.
--------------------
Заблуждаться - Ваше законное право :-)
|
|
|
|
|
Feb 16 2008, 00:52
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(GetSmart @ Feb 16 2008, 03:42)  Сильно сумневаюсь, что на скорости входных данных 250 MB/sec можно будет организовать хоть сколько-нибудь сложный алгоритм сжатия. Это к вопросу об рабочей тактовой FPGA. Всё можно, если захотеть сильно. Конечно,алгоритм "сжатия" должен учитывать возможности вычислительной техники. Поскольку для меня лично этот постулат есть "отченаш", нюансы обсуждать особенно не хочется. Цитата(GetSmart @ Feb 16 2008, 03:42)  Дело в том, что подобный дельта поток включается адаптивно (на уже проанализированной последовательности) в ситуации когда он однозначно уменьшает поток, иначе же он не включается. А где в посте rv3dll(lex) сказано, что он именно должен быть адаптивным? Кроме того, я могу придумать Вам последовательность, дельта-кодирование которой гарантированно будет приводить к увеличению объёма выходной информации.
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
Feb 16 2008, 01:04
|
.
     
Группа: Участник
Сообщений: 4 005
Регистрация: 3-05-06
Из: Россия
Пользователь №: 16 753

|
Цитата(Stanislav) Кроме того, я могу придумать Вам последовательность, дельта-кодирование которой гарантированно будет приводить к увеличению объёма выходной информации. А я две последовательности могу придумать, и что? Цитата(rv3dll(lex)) если сжать не получается - приращение больше резервируется -0 и последующий несжимаемый участок потом опять -0 и пошла дельта вообще аппаратных затрат нет. и работает на лету Вы вообще внимательно читаете? В потоке используется префикс (одно зарезервированное значение) для указания перехода в режим дельта и обратно. В общем он обрисовал только идею (которая и у меня при чтении топика сразу же возникла), которую уже нужно детально проработать на реальных данных, которые зажал автор темы
Сообщение отредактировал GetSmart - Feb 16 2008, 01:05
--------------------
Заблуждаться - Ваше законное право :-)
|
|
|
|
|
Feb 16 2008, 01:22
|

Гуру
     
Группа: Свой
Сообщений: 4 363
Регистрация: 13-05-05
Из: Москва
Пользователь №: 4 987

|
Цитата(GetSmart @ Feb 16 2008, 04:04)  А я две последовательности могу придумать, и что? Отлично. Цитата(GetSmart @ Feb 16 2008, 04:04)  Вы вообще внимательно читаете? В потоке используется префикс (одно зарезервированное значение) для указания перехода в режим дельта и обратно. Не понимаю, как Вы это себе представляете? Если идёт речь о зажатии спектрограммы, рекомендую Вам прочитать внимательнее Ваш же пост: Цитата(GetSmart @ Feb 16 2008, 03:42)  Сильно сумневаюсь, что на скорости входных данных 250 MB/sec можно будет организовать хоть сколько-нибудь сложный алгоритм сжатия. Это к вопросу об рабочей тактовой FPGA. Надеюсь, он внесёт в Ваше видение проблемы некоторую ясность. Если идёт речь о дельта-зажатии непрерывно поступающего сигнала, тогда Ваши дела - и вовсе швах.  Потому, как это плохо даже теоретически. Цитата(GetSmart @ Feb 16 2008, 04:04)  ...В общем он обрисовал только идею (которая и у меня при чтении топика сразу же возникла), которую уже нужно детально проработать на реальных данных, которые зажал автор темы  Идеи, вообще-то, должны соответствовать реальной действительности...
--------------------
Самонадеянность слепа. Сомнения - спутник разума. (с)
|
|
|
|
|
  |
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
|