Добрый день!

В устройстве контроля изоляции необходимо реализовать функцию обнаружения фазы
с наибольшим током утечки (с наименьшим сопротивлением изоляции).

По какому принципу это можно реализовать?

По принципу сравнения, если RisoA>RisoB, то если RisoB>RisoC и т.д.

а как RisoA, RisoB, RisoC промерять проще всего?

У вас же устройство контроля изоляции, оно должно выдавать готовое сопротивление изоляции.

Утечкой по постоянке (изоляция) или утечкой на частоте сети (50 гц)? А то ведь именно по этому параметру УЗО срабатывают, что при несимметричной проводке добавляет огромных проблем электрикам. Искать- только три токовых трансформатора по всем фазам и измеритель полного импеданса на 50 гц, и возможно гармониках сети.

У меня устройство не измеряет сопротивление изоляции, а реагирует на пороги срабатывания.
100кОм - предупредительный порог
30 кОм - аварийный порог, при котором устройство должно сработать.

Но стала задача, реализовать функцию определения фазы с наибольшей утечкой, с последующим шунтированием
этой фазы.

К сожалению телепатически я не могу узнать что такое "пороги срабатывания" и от чего они срабатывают
Могу только предположить, что у вас где-то выходит напряжение пропорциональное сопротивлению изоляции каждой фазы, тогда надо делать схему которая сравнивает эти напряжения.

Измерения ведутся непрерывно и под нагрузкой, как УЗО?

да

Я бы попробовал примерно так - сигнал утечки берется с общего синфазного трансформатора, и интегрируется по времени (с постоянной много больше периода) с напряжением каждой из фаз. По идее, это и будет сигнал тока утечки по каждой фазе.