А как называется транзистор? И какое сопротивление катушки реле (Ом)?
Так, навскидку - попробуйте подключить эмиттер транзистора (ножку со стрелкой) к GND. Коллектор к катушке реле, а другой контакт катушки уже к 12В.
Вот как здесь нарисовано.

Вообще, для управления: реле, двигателями (шаговыми и обычными), светодиодными индикаторами - используются "транзисторы Дарлингтона". Есть даже сборка таких транзисторов в виде микросхемы
ULN2003 (7 транзисторов). Они тоже подключаются к нагрузке как на рисунке выше.
Купите в ближайшем радиомагазине несколько штук - пригодятся однозначно!