Это возможно означает, что уравнения из документа нельзя применять в SEPIC топологии, но корни для тех уравнений, которые приведены в документе, они нашли верно.
В таком варианте тема хорошо изучена - они просто накосячили где-то в матрицах. P.S. Однако для SEPIC в режиме разрывных токов с управлением по максимальному току точного решения до сих пор нет.
Можно

я легко допускаю, что задача с такими матрицами может быть решена с карандашом и бумагой.
Рисовать такое вручную согласятся разве что студенты под угрозой низачота. 
Мы же, простые рабочие парни, не любим системы четвертого порядка, поэтому применяем способы управления, при которых двойные комплексно-сопряженные полюсы разделяется на одиночные и все лишние уходят далеко вверх по частоте.
Извлечь матлабом конечно можно все корни, но проку от этого никакого, потому что большинство из них находятся на декаду выше частоты, при которой набег фазы составляет 360 гр. и ни на что повлиять не могут.
И остается в реальном устройстве один нуль и один полюс в левой полуплоскости и один нуль - в правой.
Вот как это выглядит в реальном устройстве: