Откуда у вас берется видео? Скорее всего вам надо смотреть в сторону DirectShow (99% программ для воспроизведения чего угодно используют именно его). В DS вам нужно будет вклинится в граф воспроизведения вашего видео (там, где уже есть раскодированный поток) и извлекать из него нужные биты. Возможно придется написать DS Filter (для вклинивания в граф).
В любом случае это не задача для Borland C++. Хотя управляющую морду для этого всего на нем написать можно