Если уж взялись за modbus RTU, то используйте обычные функции ReadFile и WriteFile. Допустимый зазор между байтами задайте просто задав тайм ауты в структуре тайм аутов, их надо подбирать , т к все таки реально получающиеся миллисекунды крепко отличаются от того, что пишем в константы, причем отличаются как от операциоки к операционке, так и от машина от машины. Но вам совершенно не надо выгребать миллисекунды.
1.5 вам не надо совершенно, вам надо опознать конец передачи и все. Для больших скоростей в спецификации RTU введено ограничение 1.7 по моему, точнее не надо, но с точки зрения реализации на компе и это нонсенс - нету таких возможностей.
Для скорости 57600 я в константы структуры тайм аутов пишу 6. С просящимся изначально туда числом 2 прием не работает и еще серьезнее не работает если в винде крутится процесс который чего-то хочет: работа по сети, файловые операции, медиаплеер, запуск эксплорера.
Пы Сы Через USB вирт компорты или через Ethernet вир com порты modbus rtu работать не будет, может, но это уже будет крепко за спецификациями