Вот мне тоже непонятно. Если "только одна витая пара" это не цель, а средство получить минимальные наводки, то почему выбран RS485 а не LVDS, у которого гораздо меньше размах сигнала?
Мне кажется, что стоит попробовать вернуться к двум парам, но LVDS и такое (кажется, в IEEE1394-ом используется)
По одной из линий передаются данные.
По второй - дополнительные
перепады. Вот так
Код
101011001111000011111111
D -_-_--__----____--------
C _____--__-_--_-__-_-_-_-
На приёме (D xor C) работает как DDR такт для D, только задержать нужно немножко (но «лишь бы за setup-hold выйти», а не нужная доля периода).
Количество любых перепадов на обеих линиях вместе в два раза меньше, чем у Вас сейчас на одной линии (один перепад на бит вместо двух). Соответственно падает энергия помех. Плюс LVDS не такой шумный, как RS485.