Смоделировать в SIMULINK и оптимизировать коэффициенты с помощью библиотеки Simulink Design Optimization (в старых версиях Nonlinear Control Design(NCD) Blockset ). Вариант хорош тем, что можно учесть разброс параметров, нелинейность, дискретность и еще что угодно, а плох тем, что такая оптимизация длится достаточно долго... ну и платностью матлаба с симулинком