UPD:
Итак все потихоньку проясняется. Действительно проблема в слишком большом напряжении из-за чего микросхема выключается. Напряжение превышает заданое значение из-за индуктивного выброса из трансформатора. Собрал два разных снаббера - посильнее и полайтовее в плане эффективности подавления выброса. Вначале поставил RCD снаббер (https://realstrannik.com/forum/attachment/594 рис 13.11) с большим сопротивлением резистора. Схема заработала, хотя и нестабильно - присутствуют достаточно сильные осцилляции выходного напряжения. Ко всему прочему схема запускается при питании до 18В, при питании от большего напряжения схема не заводится. Также схема не заводится при подключении полной нагрузки (резистор 3 Ома).
Далее я поставил RC снаббер (http://moemesto.ru/v000va/file/13345607/atx-power-supply-schematic-250w1.jpg) с малым сопротивлением резистора. В итоге схема не запускается вхолостую, но при подключении полной нагрузки включается и работает. Из имеющихся данных сделал вывод, что проблема в индуктивном выбросе который необходимо погасить. Планирую поставить супрессор вместо снаббера ибо мощность небольшая, схема позволяет. Сразу вопрос: если напряжение питания 10-24 В, напряжение на выходе 6 В (ток 2 А) или 18 В (ток 1.5 А) и микросхема отключается при превышении значения в 24 В, на какое напряжение стоит выбрать супрессор? Планирую использовать серию P6KE, вопрос в том на какое напряжение.
PS
Обычно проектировал boost и buck конвертеры, это мой первый flyback. Думаю основная проблема из-за изначального косяка который допустил в схемотехнике - перепутал направление намотки первичной обмотки. Из-за этого пришлось кидать навесом провода, что полагаю крайне негативным образом сказалось на индуктивных выбросах из трансформатора. Посыпаю голову пеплом.
Однако к микросхеме у меня тоже есть небольшие притензии. Из-за повышеной умности микросхемы очень сложно отследить ошибку. Более простые конвертеры продолжают работать, пусть и нестабильно, пусть и с опасностью повредить транзистор, но работают. Эта же микросхема отрубается из-за чего отладка схемы становится затруднительной - отключение происходит не на первых импульсах а ближе к полной накачке. Трудно увидеть это на осциллографе. Конечно можно было бы убрать отключение по перенапряжению, но это уже кручение двух ручек сразу. Также по какойто причине микросхема не всегда опускает вывод nFAIL в низкий уровень, хотя должна. Это странно.