Столкнулся с такой ситуацией. Использую ядро Cortex-M3 (STM32F100RB) и функции библиотеки DSP Lib с комплекта CMSIS.

Функция arm_cos_q31(0x3FFFB678) должна возращать значение:
2^31 * cos ( 0x3FFFB678 * 2 * pi / (2^31) ) = 0x80000004 = -0,99999999848332042529935851495315,
в симуляторе Keil и железе возращает 0x7FFFFFFE, то есть 0,999999999068677425384521484375.

В тоже время arm_cos_q31(0x3FFFB688) дает верное значение 0x80000000.

Функция arm_sin_q31( 0x5FFFAB18 ) должна возращать значение:
2^31 * sin ( 0x0x5FFFAB18 * 2 * pi / (2^31) ) = 80000005 = -0,99999999797777599899524859187533,
в симуляторе Keil и железе возращает 0x7FFFFFFE, то есть 0,999999999068677425384521484375.

Такие глюки наблюдаются для cos только в районе 0x3FFF FFFF (pi), а для sin - 0x5FFF FFFF (3pi/2).

Похоже, что происходит переполнение и в результате некоректно отображается знак результата.