Если я правильно понял осциллограмы, запрос FIQ не снимается, в результате IRQ выполнятеся по одной комманде (и сразу происходить опять влет в FIQ). Ищите, почему не снимается запрос - не сбросили флаг, не тот флаг сбрасываете, разрешен еще какой-то источник запросов, про который забыли и т.д.
PS Кстати, раз у Вас на FIQ сидит регулярное прерывание, не делайте там больше никаких лишних действий. Пусть будет только Software-DMA

Кстати, еще оптимально, чтобы все влезло в банковые регистры, без стека. Огласите, кстати, количество тактов, отпускаемое на FIQ по Вашим расчетам.
"Практика выше (теоретического) познания, ибо она имеет не только достоинство всеобщности, но и непосредственной действительности." - В.И. Ленин