реклама на сайте
подробности

 
 
2 страниц V   1 2 >  
Reply to this topicStart new topic
> Хранилище "Key->Value" для EEPROM
ArtDenis
сообщение Jun 9 2015, 12:14
Сообщение #1


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Предполагается в EEPROM хранить (и при необходимости читать) разные наборы данных, размер и количество которых заранее неизвестно. На мой взгляд для этого подходит идеология хранилища Key->Value, где Key - это например целое число, по которому я идентифицирую сохраняемый набор, а Value - данные этого набора в бинарном виде. Есть ли готовые библиотеки для подобных хранилищ, для которых надо было бы дописать только чтение/запись EEPROM?

PS: размер EEPROM небольшой - всего 12 Кб. Размер сохраняемых наборов - от нескольких байт до килобайта.

Сообщение отредактировал ArtDenis - Jun 9 2015, 12:15


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post
RabidRabbit
сообщение Jun 9 2015, 18:26
Сообщение #2


Местный
***

Группа: Свой
Сообщений: 397
Регистрация: 3-12-09
Из: Россия, Москва
Пользователь №: 54 040



Самое простое - использовать в качестве ключа смещение данных в ЭППЗУ.
Go to the top of the page
 
+Quote Post
alexeyv
сообщение Jun 10 2015, 03:05
Сообщение #3


Местный
***

Группа: Участник
Сообщений: 298
Регистрация: 26-01-09
Из: Пермь
Пользователь №: 43 940



Цитата
Самое простое - использовать в качестве ключа смещение данных в ЭППЗУ.


+100500

Код
typedef struct  __eepRecord__
{
    unsigned char*        Addr;        // адрес объекта в EEPROM
    unsigned char*        ram;            // адрес объекта в оперативке
    unsigned int        Size;            // размер объекта
} __attribute__ ((packed))  eepRecord;

eepRecord     eepBase[100500];

readRecord(eepRecord * Rec)
{
     eepRead(Rec->Addr,Rec->ram,Rec->Size);
}
writeRecord(eepRecord * Rec)
{
     eepRead(Rec->ram,Rec->Addr,Rec->Size);
}


Сообщение отредактировал alexeyv - Jun 10 2015, 03:08
Go to the top of the page
 
+Quote Post
_Pasha
сообщение Jun 10 2015, 03:42
Сообщение #4


;
******

Группа: Участник
Сообщений: 5 646
Регистрация: 1-08-07
Пользователь №: 29 509



ТС, Вы ничего не сказали об интенсивности стираний элементов. Потому что если у Вас пойдет сильная фрагментация, то доступ к объектам нужно делать через двойные указатели.

Сообщение отредактировал _Pasha - Jun 10 2015, 03:43
Go to the top of the page
 
+Quote Post
ArtDenis
сообщение Jun 10 2015, 04:41
Сообщение #5


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Цитата(RabidRabbit @ Jun 9 2015, 23:26) *
Самое простое - использовать в качестве ключа смещение данных в ЭППЗУ.

Цитата(alexeyv @ Jun 10 2015, 08:05) *
+100500

Нет. Это не соответствует требованию "размер и количество которых заранее неизвестно". В качестве ключа я хочу выбирать число, которое как-то характеризует хранимые данные.

Цитата(_Pasha @ Jun 10 2015, 08:42) *
ТС, Вы ничего не сказали об интенсивности стираний элементов. Потому что если у Вас пойдет сильная фрагментация, то доступ к объектам нужно делать через двойные указатели.

Да, фрагментация будет конечно. Я хочу чтобы эту проблему решала сама библиотека.

Фактически, мне нужно от библиотеки что-то типа такого:
Код
#define CONFIG_KEY 1
#define DATA_KEY 2
#define SUPER_PUPER_KEY 0xFFFFFFFF
...
save_into_eeprom(CONFIG_KEY, &config, sizeof(config));
save_into_eeprom(DATA_KEY, &data, sizeof(data));
save_into_eeprom(SUPER_PUPER_KEY, &super_puper_value, sizeof(super_puper_value));
...
load_from_eeprom(CONFIG_KEY, &config, sizeof(config));
load_from_eeprom(DATA_KEY, &data, sizeof(data));
load_from_eeprom(SUPER_PUPER_KEY, &super_puper_value, sizeof(super_puper_value));
...
erase_key(SUPER_PUPER_KEY);


+ желательно чтобы можно было перечислять ключи записей, которые хранятся на данный момент.

Фактически, это должно быть что-то типа файловой системы, только в качестве имени файла выступает целое число.


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post
AlexandrY
сообщение Jun 10 2015, 05:08
Сообщение #6


Ally
******

Группа: Модераторы
Сообщений: 6 232
Регистрация: 19-01-05
Пользователь №: 2 050



Цитата(ArtDenis @ Jun 9 2015, 15:14) *
Предполагается в EEPROM хранить (и при необходимости читать) разные наборы данных, размер и количество которых заранее неизвестно. На мой взгляд для этого подходит идеология хранилища Key->Value, где Key - это например целое число, по которому я идентифицирую сохраняемый набор, а Value - данные этого набора в бинарном виде. Есть ли готовые библиотеки для подобных хранилищ, для которых надо было бы дописать только чтение/запись EEPROM?

PS: размер EEPROM небольшой - всего 12 Кб. Размер сохраняемых наборов - от нескольких байт до килобайта.


Так не делают. Это неудобно и негибко.
Делают так:
В паре Key=Value , Key - это строковый идентификатор, а Value - сериализированные данные, т.е. представленные тоже в виде строки.
Если действительно структура данных сложная и неизвестная, то применяют формат JSON, а данные хранятся в древовидных структурах.
Но файловую систему к этому не примешивают. Файловая система отдельно, а парсинг файлов отдельно.
Для EEPROM очень простая файловая система есть у Keil, она включает и дефрагментацию и равномерный износ в ней учитывается.
Go to the top of the page
 
+Quote Post
ArtDenis
сообщение Jun 10 2015, 05:15
Сообщение #7


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Цитата(AlexandrY @ Jun 10 2015, 10:08) *
Так не делают. Это неудобно и негибко.
Делают так:
В паре Key=Value , Key - это строковый идентификатор, а Value - сериализированные данные, т.е. представленные тоже в виде строки.


Я не совсем понял, почему хранить данные по ключу, который представляет из себя целое значение это - "неудобно и негибко", и почему их надо хранить по строковому ключу да ещё в строковом виде? Зачем расходовать лишний EEPROM?


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post
AlexandrY
сообщение Jun 10 2015, 05:31
Сообщение #8


Ally
******

Группа: Модераторы
Сообщений: 6 232
Регистрация: 19-01-05
Пользователь №: 2 050



Цитата(ArtDenis @ Jun 10 2015, 08:15) *
Я не совсем понял, почему хранить данные по ключу, который представляет из себя целое значение это - "неудобно и негибко", и почему их надо хранить по строковому ключу да ещё в строковом виде? Зачем расходовать лишний EEPROM?


Если интересует сжатие, то так прямо и спрашивайте.
Go to the top of the page
 
+Quote Post
ArtDenis
сообщение Jun 10 2015, 05:37
Сообщение #9


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Цитата(AlexandrY @ Jun 10 2015, 10:31) *
Если интересует сжатие, то так прямо и спрашивайте.

Какое ещё сжатие? Требования расписаны, пример того, что я хочу - есть. Сжатия среди требований нету. Откуда оно взялось?


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post
psL
сообщение Jun 10 2015, 05:40
Сообщение #10


Знающий
****

Группа: Свой
Сообщений: 526
Регистрация: 5-08-05
Пользователь №: 7 390



на самом деле в key-value данные хранятся по хешу key, т.е. по целому, а не по строке, а ТС предлагает вместо хеш-функции использовать перечисление.
Вообще непонятно зачем это в таком виде нужно, поскольку key-value используется для скоростной выборки данных, а тут всего 12кБ - т.е. можно просто последовательно перечитать весь носитель за миллисекунды. Хранить данные можно друг за другом, например в виде index, type, data, crc. Придумать случай, когда программа не знает размера структуры данных в eeprom затрудняюсь.
А так - есть всякие bson, protobuf и т.п., но это в данном случае наверное тяжело будет.
Go to the top of the page
 
+Quote Post
RabidRabbit
сообщение Jun 10 2015, 05:42
Сообщение #11


Местный
***

Группа: Свой
Сообщений: 397
Регистрация: 3-12-09
Из: Россия, Москва
Пользователь №: 54 040



Так и почитайте о файловых системах, решение к Вам и придёт sm.gif
Например, разбиваете Вашу ЭППЗУ на блоки равного размера.
Самый первый обзываете суперблоком и пишете туда размер одного блока, их количество, сколько свободных блоков осталось и ещё может что.
Следом в одном или нескольких блоках размещаете битовую карту занятых блоков (бит сброшен - блок занят).
Каждый блок состоит из номера следующего блока и данных.
В следующем после битовой карты блоке размещается каталог, содержащий записи вида: номер первого блока/размер информации.
Для добавления нового Value ищете первую свободную запись в каталоге, если нет, добавляете к каталогу ещё один блок.
Далее находите столько номеров свободных блоков, сколько требуется для размещения Value, записывается информацию в эти блоки, располагая их цепочкой, вносите изменения в битовую карту и суперблок. Ключом будет являтся номер первого блока в цепочке.
Для перечисления просматриваете каталог.
Удаление Value также не представляет сложности.
Go to the top of the page
 
+Quote Post
ArtDenis
сообщение Jun 10 2015, 05:55
Сообщение #12


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Цитата(psL @ Jun 10 2015, 10:40) *
на самом деле в key-value данные хранятся по хешу key, т.е. по целому, а не по строке, а ТС предлагает вместо хеш-функции использовать перечисление.
Вообще непонятно зачем это в таком виде нужно, поскольку key-value используется для скоростной выборки данных

Скорость для меня не важна. И требования я такого не ставил. Для меня главное, чтобы работа с данными производилась через целочисленный ключ. А идеология "Ключ->Значение" приведена в качестве примера чего я хочу.
Цитата(RabidRabbit @ Jun 10 2015, 10:42) *
Так и почитайте о файловых системах, решение к Вам и придёт sm.gif

Я ищу готовый вариант. Свой велосипед я всегда успею написать biggrin.gif


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post
esaulenka
сообщение Jun 10 2015, 06:41
Сообщение #13


Профессионал
*****

Группа: Свой
Сообщений: 1 032
Регистрация: 13-03-08
Из: Маськва
Пользователь №: 35 877



Цитата(psL @ Jun 10 2015, 08:40) *
Придумать случай, когда программа не знает размера структуры данных в eeprom затрудняюсь.

Например, когда версий у программы больше одной, а настройки при апгрейде хочется сохранять.
Поддерживать, скажем, три разных структуры настроек - геморрой с неожиданными багами.

PS делали подобный велосипед (структура - прям по букварю); но там была флеш. При изменении настроек всё вычитывалось, перестраивалось и записывалось обратно; с фрагментацией бороться было не надо.


--------------------
Тут обсуждается творческий порыв, а не соответствие каким-либо стандартам ©
Go to the top of the page
 
+Quote Post
AlexandrY
сообщение Jun 10 2015, 07:17
Сообщение #14


Ally
******

Группа: Модераторы
Сообщений: 6 232
Регистрация: 19-01-05
Пользователь №: 2 050



Цитата(ArtDenis @ Jun 10 2015, 08:37) *
Какое ещё сжатие? Требования расписаны, пример того, что я хочу - есть. Сжатия среди требований нету. Откуда оно взялось?


Не, требования свои оставьте себе.

А я пишу как делают, и что можно найти.
Так вот когда нужно работать с настройками применяют три отдельные вещи: парсинг файлов, сжатие файлов и файловую систему.
Пытаться уменьшить объем файла за счет применения цифр вместо строк это непрофессиональный стиль и никто так не лаж....

Хотя если найдете такое будет интересно.
Скорее всего вам надо к ардуинщикам.
Go to the top of the page
 
+Quote Post
ArtDenis
сообщение Jun 10 2015, 07:30
Сообщение #15


Частый гость
**

Группа: Участник
Сообщений: 142
Регистрация: 10-11-12
Пользователь №: 74 318



Цитата(AlexandrY @ Jun 10 2015, 12:17) *
Не, требования свои оставьте себе.

Не-не, забираейте. Мне не жалко biggrin.gif

Цитата(AlexandrY @ Jun 10 2015, 12:17) *
А я пишу как делают, и что можно найти.
Так вот когда нужно работать с настройками применяют три отдельные вещи: парсинг файлов, сжатие файлов и файловую систему.

Я нигде не говорил про работу с настройкам. Это ваши фантазии. Или меня с кем-то перепутали. Перечитайте первое сообщение в теме.

PS: и можно конкретную ссылку на реализацию того, о чём вы говорили.

Цитата(AlexandrY @ Jun 10 2015, 12:17) *
Пытаться уменьшить объем файла за счет применения цифр вместо строк это непрофессиональный стиль и никто так не лаж....

Я не пытаюсь уменьшить объём. Это тоже ваши фантазии.
На стиль мне плевать. Мне надо решить задачу, а не строить из себя профессионала biggrin.gif

Цитата(AlexandrY @ Jun 10 2015, 12:17) *
Хотя если найдете такое будет интересно.
Скорее всего вам надо к ардуинщикам.

Буду рад конкретной ссылке как это реализовано у ардунинщиков.

Сообщение отредактировал ArtDenis - Jun 10 2015, 07:55


--------------------
http://ufa-darts.ru/ - собираем дартс-лигу в Уфе
Go to the top of the page
 
+Quote Post

2 страниц V   1 2 >
Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 23rd July 2025 - 23:10
Рейтинг@Mail.ru


Страница сгенерированна за 0.01495 секунд с 7
ELECTRONIX ©2004-2016