Поищите на рапидшаре книги по теме под модным названием "Software Defined Radio".
Например на первый взгляд эта неплоха (глава 6):
http://rapidshare.com/files/159225975/eboo....0470843187.zipПравда там безотносительно FPGA это или ASIC - просто описаны общие принципы.
А само по себе разложение на квадратурные составляющие если делать в лоб достаточно простая операция - для FPGA имеются все необходимые ядра (NCO, CIC, FIR фильтры). Есть одна книга по FPGA где это вскользь затронуто - Digital Signal Processing with Field Programmable Gate Arrays (в сети она точно есть). Больше именно книг с описанием квадратурного разложения в FPGA вы вряд ли найдете, а вот по отдельным составным блокам информации море.