На AT89s52 таймер- счетчик считает импульсы с частотой меньшей чем частота входного сигнала. Например если частота сигнала на входе примерно 65Кгц то счетчик должен переполняться приблизительно за 1 сек, а он переполняется секунд за 10. В TMOD и TCON вроди бы все правильно установлено.