Это точно стек переполняется.
Попробуйте оптимизировать использование стека с помощью динамического выделения памяти под локальные переменные из кучи (malloc) или уменьшив глубину вложенности функций. Ну или увеличте стек

Обращайте внимание сколько отжирают от стека библиотечные функции.