Проблема компенсации вибрации камеры и изменения яркости (тень или солнце ярко светит) в помещении которое наблюдается камерой. Hужно записывать сигнал если есть движение в помещении а то ложные срабатывания от вибраций и ищменения освещенности быстро съедают место на диске. Что делать, где смотреть, куда копать?

Почитайте статейки :
http://en.wikipedia.org/wiki/Deinterlacing
http://en.wikipedia.org/wiki/Antialiasing

может они натолкнут вас на решение

На мой взгляд наиболее простое решение это выделить контуры изображений, на контурах по связности найти "характерные точки", т.е. перегибы контуров а затем отслеживать траектории этих точек. Озменение освещённости или дрожание будут давать или отсутствие траекторий или замкнутые траектории а движение в кадре будут приводить к появлению не замкнутых траекторий, тени при адаптивном выделении контуров, должны или совсем исчезнуть или привести к образованию очень медленно перемещающихся тракторий что можно легко засечь при дальнейшем анализе. Когдато давно вконце 70х начале 80х годов я занимался подобными задачами. Наиболее полезная книжка по обработке изабражений в плане таких задач это книга издательства "Мир" Ка Фу(это автор) "Алгоритмы цифровой обработки изображений" (если я не путаю названия) она в 2 томах, к сожалению свой экземпляр я сохранить не смог, поищите в библиотеках в России они наверное сохранились(в отличии как здесь). А если вдруг найдётся в электронном виде былбы рад получить копию.

Поддержу предыдущего докладчика. Основой для реализации алгоритм определения движения, при Ваших условиях, должно стать отслеживание положения узловых точек, образованных перегибами или пересечениями контуров. При изменении освешенности или направления падения света узловые точки, образованные контурами реальных предметов будут только появляться и исчезать, без изменения своего положения. Суточные изменения естественной освешенности будут приводить к медленному
перемешению узловых точек, образованных тенями. Включение/выключение источников освещения в комнате будет приводить к появлению/ищезновению стационарных узловых точек, образованных тенями. Появление быстрых внешних искусственных источников освещения (фары с дороги - в окно) появлению/ищезновению быстроперемещающихся узловых точек, образованных тенями.
Тряска камеры будет приводить к быстрым колебаниям всех узловых точек (как от реальных предметов, так и от их теней) относительно своего равновесного положения.

Напрашивается такой подход - определить спектральную полосу, характерную для перемещений узловых точек, вызванных движением в кадре. Ясно, что в эту полосу не попадают окрестность нулевой частоты (там лежит спектр суточных изменений освещенности) и все частоты выше некоторого порога (это спектральная область вибраций). На эту полосу настроить набор цифровых фильтров (по два для каждой узловой точки) и писать тот участок изображения, которому соответствует наличие сигнала на выходе пары фильтров, превышающего некоторый порог...