Восьми бит - за глаза. А вот частоту я взял бы минимум 100Гц, чтобы не было заметно мерцаний. Это пустяковая частота для МК. И припаяйте Вы уже один RGB светодиод, да проверьте самостоятельно, насколько плавной регулировка кажется Вашему глазу. О чём тут спрашивать? Когда же будете проводить какие-нибудь фотометрические (или колориметрические) эксперименты, тогда поднимете разрядность ШИМ по необходимости. 5мин работы. Там уже не глазом придётся различать.