Есть самодельная плата с процессором AT91SAM9M10. К схеме AT91SAM9M10G45-EK никакого отношения не имеет. Собрана исключительно с учетом удобства разводки. ОЗУ не DDR, как в ките, а SDRAM, 32М. Инициализация, соответственно, переписана. Драйвера тоже. Ядро 2.6.33.5. Для вывода графики используется GTK+DirectFB. Для проверки работы запускаю DirectFB examples.
Теперь вопрос. Если в параметрах запуска ядра mem не указывать, или указать mem=32M, то загрузка происходит нормально, но при попытке запустить приложение на экране рисуются цветные полоски и система намертво зависает. Если указать любое значение от 16М до 32М, то загрузка заканчивается на kernel panic. Если указать mem=16M, то система работает отлично.
Куда копать?

Туда и копать где переписали - проверьте инит sdram. Ядро по умолчанию работает на DDRSDRC0 (физ. адрес 0х70000000 и там поддержка только ddr) у вас sdr, соответсвенно это DDRSDRC1 и физ. адрес 0х20000000 - я смотрел на ядре 2.6.36 так вот там ядро игнорирует параметры ATAG_MEM передаваемые загрузчиком и подразумевает физ. адрес по умолчанию 0х70000000, хотя судя по тому что что-то работает вы это учитывали ? параметр mem в принципе не должен иметь таких катастрофических влияний при нормально проинициализированной памяти - он всего лишь указывает сколько физической памяти есть в наличии и можно смапить.

Чуть не забыл. Но лучше поздно, чем никогда.
Загвоздка действительно была в инит sdram. Один лишний бит, и четырехбанковая память превратилась в двухбанковую. Оттуда и 16М.
Большое запоздалое спасибо!