Стоит задача изменить цвет четырехугольника, при этом основной цвет постоянный, но около границ начинаются градации - сглаживание. При изменении основного цвета, естественно, необходимо сохранить сглаживание, но уже требуемого цвета. Может кто-нибудь подсказать, как это обычно реализовывается?

Вроде бы очевидно. Градиент реализуется изменением каждой из компонент R, G и B по линейному закону от начальных позиции и цвета до конечных.

Я правильно понимаю, что, если вначале были зеленые цвета 00FF00, 10FF10, 20FF20, а потом нужно получить красные цвета с визуально таким же сглаживанием, то достаточно будет использовать FF0000, FF1010, FF2020?

Да. К тому же это легко опробовать в графическом редакторе: Photoshop или Gimp, к примеру.

Спасибо.

Интересно какая математика в таких LCD панелях (новый тип RGBY от Sharp)?

IMHO, математика смешения цветов не зависит от устройства дисплея. А вот трюки типа Subpixel Rendering (то, что Microsoft называет ClearType) - очень даже зависят.