FPGA + NOSQL Опции

[Jumboframe]

Добрый день, коллеги

Помогите, пожалуйста, внести ясность в вопрос, хотя бы на концептуальном уровне - насколько это реально и вобще целесообразно.
Итак, имеется сеть с нескольками тысяч устройств, все эти устройства, постоянно обращаются по протоколу TCP/IP к комплексу серверов БД с простыми nosql запросами типа "хеш=значение". Этот комплекс работает софтово на интеловских CPU, на каждый запрос отдается ответ размером от нескольких Кб до нескольких МБ информации. По сути это некий большооой и мощный NoSQL сервер. Данный в таком NoSQL сервере практически статичны и меняются всего несколько раз в час. Все вроде бы работает прекрасно. Однако такое решение тяжело и дорого масштабировать с учетом роста количства назгрузки. Поэтому пришла идея как-то все соптимизировать, например на FPGA.
В интернете удалось найти решения алалогичные вот этому http://netfpga.org/foswiki/NetFPGA/TenGig/...10gInitInfoSite , обеспечивающие огромную пропускную способность. Идея в том, что бы заставить плис помимо аппаратной обработки сетвого стека, еще и работать в качестве простейшего nosql сервера на скоростях близких к 10Gbit/s, для этого достаточно брать прилетевший пакет, находить по в нем самый хэш nosql-запроса, и выдергивать напрямую значение хэша из оперативной памяти, обходя при этом центральный процессор сервера. В оперативную память данные будут заранее загружены силами сервера.
У меня пока первым вопросом является насколько стек lwIP virtex'a подходит для десятков (а в перспективе и под сотню) тысяч одновременных tcp соединений и больших нагрузок? Насколько вообще описанная мною схема имеет право на существование? Быть может стоит взглянуть в какую-то другую сторону?

Спасибо.

[AsJohnAs]

Мне самому очень интересно как такое можно обрабатывать на ПЛИС.....
Потому как при постановке задачи что сессий может быть почти любое кол-во и их размер то-же не ограничен. То выделение ресурсов должно будет выполнено динамически. Такие задачи не очень свойственны ПЛИС.
Т.е. для такой задачи ножен процессор. Но так как сессий может быть очень много этот процессор должен собирать сессию без задержки так как сами пакеты могут быть разными. Надо сделать так чтоб приход короткого пакета не убивал разбор длинного.

А у вас какая концепция - с какого бока планируете подойти?

[Jumboframe]

Мне самому очень интересно как такое можно обрабатывать на ПЛИС.....
Потому как при постановке задачи что сессий может быть почти любое кол-во и их размер то-же не ограничен. То выделение ресурсов должно будет выполнено динамически. Такие задачи не очень свойственны ПЛИС.

Да, это я понимаю. Если удастся подобрать какое-то приемлемое решение на n-ое кол-во сессий, то дальше общее кол-во запросов можно будет раскидать каким-нибудь балансировщиком, благо это не проблема.

А у вас какая концепция - с какого бока планируете подойти?

Пока нет четкого понимания, к сожалению

1. LwIP это стек для Микропроцессоров, а не FPGA. Для FPGA его можно использовать только предвариетельно реализовав на FPGA Soft CPU Core.
2. чтобы оценить масштаб бедствия, возьмите размер TCB структуры того же LwIP и умножьте на вашу сотню тысяч соединений. это будет ооооочень грубо. потому что та структура чрезвычайно неудобна для размещения ее в FPGA (блочной\дистибутивной памяти FPGA) и это будет размер необходимый только для структуры, не считая буферов для принятых\переданных данных, которые могут быть судя по Вашему сообщению от нескольких КБ. Однозначно тут будет Внешняя память использоваться.

Спасибо, учтем и посчитаем. Внешняя память да, безусловно.

Если вложить в разработку пару-тройку десятков миллионов рублей и пару лет работы нормального коллектива, то возможно что то и получится.
Плата которую Вы увидели стоит около 10K$ без SFP+ трансиверов, и она уже в данный момент устарела технически. Кстати IP Core Ten Gigabit TCP тоже стоит денег сравнимых или больше.
Конечное устройство-прототип, может быть и будет в 1U formfactor, но цена 1 шт. будет близка к стоимости маленького кластера.
Вы готовы на такое капиталовложение? (если нет - то глядите в сторону ARM серверов, подключенных к балансировщикам нагрузки, возможно что то и выдет )
Что касается Баз данных на FPGA, у меня есть некоторые умозаключения по теме, но делится ими без четко описанной внятной задачи я врятли готов. Sorry.

Вы имеете ввиду пятый виртекс? Я кстати, привел данную плату как пример и цена ей 1675$, а не 10$k. На сайте http://hitechglobal.com/ достаточно много интересных плат в т.ч. и на шестых виртексах, например вот http://hitechglobal.com/catalog/product_in...products_id=216 . К этой же плате прилагаетcя (или приобретается, не совсем понятно) 10G TOE и 10G MAC IP Cores. Вобщем в идеале хотелось бы получить готовый сетевой L2/L3 стек, реализовать дальнейшую примитивную (по крайней мере мне так кажется) выборку из внешней памяти и засовывание результатов обратно в сеть не должно составить большого труда. Вкладывать десятки миллионов и человекогоды, естественно, возможности нет

За наводку в сторону ARM спасибо, мы глядели, но под нашу задачу ничего подходящего не нашли.

[SFx]

Вы имеете ввиду пятый виртекс? Я кстати, привел данную плату как пример и цена ей 1675$, а не 10$k. На сайте http://hitechglobal.com/ достаточно много интересных плат в т.ч. и на шестых виртексах, например вот http://hitechglobal.com/catalog/product_in...products_id=216 . К этой же плате прилагаетcя (или приобретается, не совсем понятно) 10G TOE и 10G MAC IP Cores. Вобщем в идеале хотелось бы получить готовый сетевой L2/L3 стек, реализовать дальнейшую примитивную (по крайней мере мне так кажется) выборку из внешней памяти и засовывание результатов обратно в сеть не должно составить большого труда. Вкладывать десятки миллионов и человекогоды, естественно, возможности нет

а таможня? А наценка дилера? или Вы уже купил?
L3 - это IP уровень, ipСore 10GTOE (которому тоже, кстати, нужно отдельный DDR контроллер) продается как правило отдельно от 10GMAC и от платы. более того. кроме IP/TCP/ARP стека нужно еще алгоритм обработки ваших данных. а тут может быть фундаментальные трудности. Примитивная выборка будет медленнее работать, чем на любом современном компе.

[Jumboframe]

а таможня? А наценка дилера? или Вы уже купил?
L3 - это IP уровень, ipСore 10GTOE (которому тоже, кстати, нужно отдельный DDR контроллер) продается как правило отдельно от 10GMAC и от платы. более того. кроме IP/TCP/ARP стека нужно еще алгоритм обработки ваших данных. а тут может быть фундаментальные трудности. Примитивная выборка будет медленнее работать, чем на любом современном компе.

Мы еще ничего не приобретали, но все это дело можно заказать через интернет либо слетать за 500$ самому)
Насчет корок - поробуем уточнить этот момент.

[SFx]

Мы еще ничего не приобретали, но все это дело можно заказать через интернет либо слетать за 500$ самому)

один фиг таможня бабло срубит имхо плата вообще не нужна, чтобы проверить принципы, достаточно сделать модель (или насобирать из корок). а вот если модель будет показывать хорошие результаты, тогда - да - стоит потратится.