Цитата(scifi @ Jul 13 2010, 09:19)

Тогда предлагаю один алгоритм. Выбираем как-нибудь начальную вершину. Остальные 3 вершины можно расположить шестью способами (число перестановок: 3!=1*2*3). Чтобы выбрать правильную перестановку, для каждой из них вычисляем площадь четырёхугольника и выбираем вариант с наибольшей площадью. Для вычисления площади многоугольника из координат вершин есть очень простая формула.
Тут дело в скорости алгоритма. Автор желает избавиться от вычисления площадей, дабы его упростить.