понятно, что мнений может быть много разных, но позволю и свое
если ищете более простой путь и только начинаете - начните с Альтеры (сам не верю, что такое написал

) из плюсов там:
поддержка SV - что очень проще для начинающего, при использовании Xilinx для SV придется ставить сторонний синтез (симплифай, пресижн)
более "юзер френдли" софт, то есть затраты на освоение/вхождение меньше
поддержка (см. Stewart Little

) гораздо активней, что опять же имхо, очень полезно начинающему
дешевая платка вот
http://www.altera.com/education/univ/mater...-de2-board.htmlну и вообще тьма их
по поводу MAC - кроме фирменных можно взять опен сорс (ну и лицензия коммерческая есть)
www.gaisler.com (grlib)
у него же есть и много разной криптографии (например ecliptic curve), но ее он дает за дэнги
сам я ни МАС ни криптографию не использую, но с Гейслером сотрудничаю и весьма положительные впечатления
----------------
из общих соображений - считаю что выбор ПЛИС, а не ДСП для криптографии оправдан.
что кажется сложным, так это разбор IP пакетов - то есть придется ставить какой-то встраиваемый процессор и bottleneck может быть на нем, но чем хороша ПЛИС, что таких процессоров можно поставить 2, 3 и т.д.
а алгоритмы криптования, особенно симметричные DES-ы AES-ы и т.п. для ПЛИС делаются даже проще чем для проца.
----------------
в качестве симулятора считаю полезным брать серьезный инструмент - например менторовский Questasim, по моему вполне может пригодится проверка покрытия со случайными векторами