Как сравнить два двухбайтных числа чтобы выяснить какое больше или меньше или они равны?

Вероятно, нужно попробовать вычесть из одного другое по-байтово, начиная со старшего байта. И не забыть про формат чисел - со знаком или без (т.е. придется нарисовать две п/п: одну - для беззнакового сравнения, другую - для сравнения чисел со знаком).

И взгляните на
http://www.microchip.com/stellent/idcplg?I...ilter1=function
->Algorithm->Math
Вас могут заинтересовать
http://ww1.microchip.com/downloads/en/AppNotes/00544d.pdf
http://ww1.microchip.com/downloads/en/AppNotes/00544.zip

Если вы пишете на "С", то здесь все просто: используйте оператеры <,>,==.
К примеру
if(X>Y){X=Y;}
else if(X<Y){Y=X;}
else {X=Y=0;}

если вы пишете на "ASM", то необходимо использовать операцию разности (SUBB) и проверки бита переноса (CJNE).

А есть уверенность, что Вы и вопрошающий говорите про одно и то же семейство ПИКов? А то он будет мучительно искать SUBB и CJNE у PIC12/PIC16, не справится и решит, что его обманули.