Не знаю что не правильно я делаю, но никак не могу реализовать работу своей программы. Кто нибудь может описать порядок всего процесса программирования МК. Начиная с подключения вспомогательной платы к компьютеру. Плата STK500, мк atmega16 и 8535. Какую бы программу я не написал она не работает!

Попробуйте, для начала, взять какой-нибудь небольшой файлик (допустим текстовый) на пару килобайт.
Зашить его во flash микроконтроллера, а затем прочитать содержимое flash микроконтроллера.

Так вы убедитесь в работоспособности программатора и в том, правильно ли он подключен и правильно ли Вы пользуютесь программой для работы с программатором.

2 Azat - там джамперов куча - посмотрите всё ли у вас сконфигурировано для того что бы шить в мегу.
Возьмите осцил и на ножки меги тыканитесь - уверен что там ничего не будет...

Какая вспомогательная плата?
Вы прошиваете мегу8535 или 16? 90s8535 это контроллер который и есть программатором.
на плате стк500 для каждого контроллера обозначены панельки своим цветом. поссмотрите туда ли вы его вставили. перемычку поставте на последовательное программирование. шлейф (шестиконтактный) с выхода программатора соедините с нужным цветом куда подключён контроллер---тут повнимательней.
комовский кабель воткните в разъём для программирования а не для чтения с контроллера. подайте питание и проидентифицируйте Ваш контроллер -- сосчитайте сигнатуру. если всё ок тогда уже шейте, если нет то читайте внимательно описание

Я приобрел BM9010 USB->COM программатор, установил драйвера. Пытаюсь для примера запрограммировать Tiny15. Использую AVRProg из AVR Studio 4. Подал напряжение на МК, подключил к программатору Reset, MOSI, MISO, SCK от МК. Пытаюсь программировать, но в ответ "Can't enter programming mode". Может я что-то не так делаю?

STK500 - наиболее универсальный кит для AVR. Очень хорошо работает с AVRstudio.
Главное - ВНИМАТЕЛЬНО прочитать его User guide на предмет установки перемычек и даташит на соответствующий МК (особое внимание обратить на fuses).
С STK500 идет тестовая програмка, попробуйте прошить ее.
Таким образом убедитесь в работоспособности железа, а дальше уже можно мучить свою программу...