При чем тут моделирование? Да еще типовыми нелинейностями... Вы собираетесь в каждую точку фазового пространства проверять методом тыка? Вы упоминали ТЕОРИЮ. Можно подробнее?

Общая теория устойчивости все- таки имеется. Правда ваша, что она не дает общих ответов, как в случае с линейными системами. По вполне понятным причинам. А причем здесь методы тыка?

Так что же мне почитать про эту теорию?
А численное моделирование - это и есть метод тыка.

И численные решения, соответственно,- тоже. И что, после этого их не считают теорией?

Это называется - численный эксперимент.

Когда- то на лекциях нам его называли "вычислительный", но это неважно. Кроме того, определенные выиды нелинейности позволяют решить задачу и аналитически. Или линеаризовать систему. Например, всяческие ШИМ системы с ОС. При наличии фильтоа или просто достаточной инерционности нагрузки, скажем по просту.