Пока Вы не раскололись о версии компилятора, платформе/МК и способе задания для компилятора (среда или командная строка), попробую предположить, что речь идёт об AVR.
Попробуйте подключить нужную библиотеку, её название должно содержать цифры 64, установите модель памяти Small, функция __low_level_init (если Вы сами её определяете) должна возвращать 1, хотя не понятно как это может повлиять на double
А если выложите архив с минимальным проектом и всеми его настройками, то будет вообще чудненько.
Ещё идея, возможно это и никак не относится к double, а Вы просто не ту библиотеку взяли, имеется в виду clib вместо dlib или наоборот.