Залить и перебрать. это подход.
Всё зависит от точности, с которой нужно получить эту площадь. Этим метод и прекрасен. Можно оценку уточнять с течением времени. Можно, оценивая сходимость, решать, нужно ли продолжать вычисления.
В качестве начальной оценки (лист для кляксы в моем примере) взять описанный прямоугольник.
Цитата(Xenia @ Oct 23 2013, 00:43)

Так он же не может определить, внутри кляксы точка или снаружи! Дорого это занятие для него. А если бы легко определялось, то залить кляксу краской и дело с концом. Тем паче, что быстрее все точки на том дисплее по очереди перебрать, чем Монте-Карла заводить.