12->5 при дросселе на 220 мкГн около 230 мВ (от пика до пика). При 680 МкГн - 20 мВ
И это при нагрузки в половину от необходимой - максимум 100 мА по 5В.
Есть ли замена с меньшими пульсациями (до 50 мВ при 100 150 мА и дросселе до 220 мкГн). ЧТо то не крупное (сейчас в soic8) и повысокочастотней?

Посмотрите у Linear Technologies LT1374.
Работает с малыми индуктивностямию Есть исполнение с возможностью синхронизации до 1мгц.
Есть SO8 корпус.

Я так понял, что ток у вас не больше 200мА. Посмотрите вот это.
 MAX1836_MAX1837.pdf ( 305.31 килобайт ) Кол-во скачиваний: 383