Вот же блин!

В таком случае вам нужно после передачи обязательно выключать функцию пина TXD, сбрасывая соответствующие биты в регистрах P3SEL и P3DIR. А устанавливать бит 4 в P3SEL можно
только на время передачи. Иначе у вас получается конфликт, когда два выхода TXD
одновременно пытаются управлять общей линией передачи.
И нафига такие заморочки? Не проще ли было обычный дуплекс реализовать? Вам еще одну "лишнюю" дорожку на плате нарисовать было влом?