В WinAVR/utils или еще в каку-нибудь папку, которую прописать в path а winavr/utils удалить (или переименовать на время проверки). msys.dll была, она была в winavr/utils/bin, полное имя msys-1.0.dll.

Заменил msys.dll, теперь другая ошибка- при создании .elf и .lss.
avr-gcc -mmcu=atmega64 -Wl,-Map=soft411131v5.map soft411131v5.o -o soft411131v5.elf
avr-objcopy -O ihex -R .eeprom -R .fuse -R .lock -R .signature soft411131v5.elf soft411131v5.hex
avr-objcopy -j .eeprom --set-section-flags=.eeprom="alloc,load" --change-section-lma .eeprom=0 --no-change-warnings -O ihex soft411131v5.elf soft411131v5.eep || exit 0
make: [soft411131v5.eep] Error 1 (ignored)
avr-objdump -h -S soft411131v5.elf > soft411131v5.lss
make: *** [soft411131v5.lss] Error 1
Build failed with 1 errors and 1 warnings...

По-хорошему надо бы еще обновить хотя бы sh и make. А текст самой ошибки куда потерялся? Выполните avr-objcopy -j .eeprom --set-section-flags=.eeprom="alloc,load" --change-section-lma .eeprom=0 --no-change-warnings -O ihex soft411131v5.elf soft411131v5.eep из командной строки

Вот это и есть текст ошибки в AVR Studio. Больше никаких сообщений нет.

Выполните из командной строки в той же папке. Возможно, получите более развернутое описание ошибки.
Первая скорее всего о том, что в вашем файле нет секций, которые можно слить в eep. А вот почему ругается на генерацию листинга - надо копать. Выполните из командной строки avr-objdump -h -S soft411131v5.elf > soft411131v5.lss
А не может быть, что файл .lss открыт каким-то не очень удачным редактором и заблокирован от записи?

Проверю.
Хотя WinAVR тоже ошибку выдает, а у нее свой проект.

Диагностировал вроде бы. Не компилируется, когда запущен explorer. Надо убить explorer, зпустить AVR Studio, потом можно explorer запускать. Вирус там что ли......

Если с местного фтп то да.