В Keil можно компилировать проект ввиде библиотеки, и соответственно вопрос, какие преимущества использование откомпилированной библиотеки и библиотеки в виде исходников

Преимущества:
1) Откомпилированную библиотеку можно продавать, не опасаясь выдать содержимое исходников.
2) Если код не меняется и используется часто, то можно сэкономить время на компиляции, каждый раз используя его не в виде исходников, а в скомпилированном виде. Но, учитывая скорость сегодняшних компьютеров, это слабый аргумент.
Всё остальное - сплошные минусы:
1) Хотим отлаживать в том числе библиотечный код? Тогда этот код должен быть скомпилирован с низким уровнем оптимизации. А для релиза - наоборот. Хранить две версии скомпилированного кода?
2) Если библиотека скомпилирована одной версией компилятора, а остальной код - другой, то велика вероятность несовместимости.
3) Ну и, естественно, в скомпилированной библиотеке ничего не исправишь.

Позволю себе не согласиться.
Можно "перегрузить" функцию из библиотеки, если её функциональность
не подходит в использующем её приложении.
Для этого нужно чтобы такая функция была определена в отдельном сегменте.
Криво, конечно, но пользоваться можно.

Ой, зачем? Отлаживать надо то, что будет в боевой программе. Какой смысл отлаживать другой код? Занимающий больше места, исполняющийся дольше, отжирающий больше стека. Для отладки достаточно, чтобы библиотека компилировалась с включением в нее отладочной информации. Правда и тут есть недостаток - в отладочную информацию прописываются абсолютные пути к исходным файлам, значит надо либо отлаживать на том же компе, где скомпилили, либо на втором иметь исходники в тех же местах. А при продаже на сторону либо компилить библиотеку без отладочной информации, либо обрезать эту информацию отдельной утилитой вроде strip.