Если линия не симметрична относительно земли, рекомендую метод измерения сопротивления изоляции с помощью тестового тона. Идея проста. В простейшем случае, на линию через последовательные конденсатор+резистор подаёте тестовый сигнал с шагом например 100гц, и снимаете табличку падения напряжения и сдвиг фазы на резисторе. Затем можно построить график импеданса цепи.
Вот >
тут как пример положил схему простейшего сенсора для измерения изоляции в несимметричной цепи.
Если линия симметрична, то замерив вольтметром 3 параметра:
1 напряжение относительно земли на проводе А,
2 напряжение относительно земли на проводе Б,
3 напряжение между А и Б,
затем можно подсчитать величину сопротивления изоляции между линией и землёй или в каждом проводе относительно земли. В прототипе
что делал я, точность была не хуже 1%.