Нужно реализовать мудрёный протокол передачи данных. Документации море, но не совсем всё понятно. Умные люди посоветовали что сильно может помочь прослушка (сниффер) устройства, работающего по этому протоколу.
Никогда не работал со снифферами и ничего из протоколов сложнее Modbus не писал.
Не совсем понимаю как можно по логам из снифера разобраться в протоколе. Может пример есть у кого-нибудь?

Можно разобраться в "своей" реализации протокола, сравнив желаемое (то что хотели отослать) и действительное (что на самом деле было в линии связи). Если желаемое и действительное совпало, а результат взаимодействия не верный, то разбираться почему так ( например не учли какой-то нюанс). Предполагается, что для тестирования используется объект на 100% правильно реализующий отлаживаемый протокол.

В таких случаях всегда пользуюсь цифровым осциллографом. Tektronix DPO4054 с буфером 10 миллионов отсчетов по каждому каналу. Если во времянке что-то не то самое оно. Если в протоколе, пишем все в файл *.isf, потом своей софтиной разбираюсь что не так...
Вся осциллограмма

Нужный участок

Декодированные данные пакетов

Есть программа http://technet.microsoft.com/ru-ru/sysinternals/bb896644

Если есть описание работы устройства, то вполне можно разобраться в его протоколе передачи данных, но это может потребовать достаточно много времени. Прослушкой удобнее отлаживать устройство с уже известным протоколом.