У вас что там, графический ускоритель на АВР?
Метод научного тыка не пробовали применить?
Взять координаты прямой, координаты точки и посмотреть, как их взаимное расположение влияет на знак.
Программирование делится на системное и бессистемное. ©Моё :)
— а для кого-то БГ — это Bill Gilbert =)