Здравствуйте, подскажите, пожалуйста, можно ли в SiWave сделать слой диэлектрика частотно-зависимым, например, чтобы менялся тангенс угла потерь?

Можно конечно. Там предлагается две модели - Джорджевич-Саркара и Дебая.

В создании своего материала? Насколько я понял, там можно задать свои значения, но они также останутся статичными.

При создание или редактировании материалов вам предлагается две модели - Джорджевич-Саркара и Дебая. Я же писал вам уже выше. На определённой частоте вы выставляете, например, диэлектрическую проницаемость, согласно формулам Дебая или Дж-С, она будет пересчитываться.
Почитайте в Help соответствующие разделы и формулы там же даны.