Цитата(Oldring @ Nov 10 2009, 15:40)

Неправильная. Обращать теплицевы матрицы на DSP это совсем не то же самое, что обращать матрицы общего вида на AVR.
И там полином по z, а не по x

Я понял, что смысл задачи - передача кривой с серьезной компрессией.
АР-метод действует-кодируется 400 точек кривой через найденный АР-полином и функцию его возбуждения.
А тут пусть попробуют аппроксимировать 400 точек полиномом, хоть и 11 степени.
Тогда действительно, для AVR задача неподъемная. Даже с плавающей запятой могут быть большие ошибки.