Не пойму, почему у меня выходное напряжение (на рисунке его амлитуда самая большая) больше 10mV, хотя если по расчетам, учитывая что частота сигнала 1ГГц, катушка 100H, то реактивное спротивление катушки будет X(L) = 2*PI*f*L = 628кОм.
А значит напряжение падающее на R2 = I * R2 => I=U/(R1+R2) => U(R2) = 8mV.
А у меня 10.
Что не так?

Неправильно сопротивление считаете! Надо считать по правилам для комплексных чисел (отсюда и все остальные ошибки). Если сложно вкурить, то можно с метода векторных диаграм начать. Вам с чего объяснение начать?
Вообще начните вот с чего - посмотрите, чему равна сумма 2-х гармонических колебаний с одинаковой частотой (ну пусть 1 кГц), какими-нибудь амплитудами (ну пусть 3В и 4В), но с разными фазами (пусть один сигнал будет сдвинут относительного другого на 90 градусов). В сумме получим гармоническое напряжение с частотой 1кГц... Но с какой амплитудой? (сразу говорю будет не 3В+4В=7В... ) И с какой фазой?
Потом придется вспомнить, что напряжение на катушке опережает по фазе на 90 град ток, текущий через нее. Следовательно в вашей схеме напряжения на резисторе и катушке сдвинуты относительно друг друга на 90 град (т.к. ток через них течет один и тот же)..... Аналогию с вышеупомянутым примером чуете?
Для окончательной победы не избежать вам изучения комплексных чисел ... Придется....

мне кажется это будет сигнал с амплитудой 1В и фазой 0. ?

А вы попробуйте, смоделируйте. Неужто неинтересно? Я кстати сказал сдивг по фазе 90, а не 180 (ваш ответ именно для этого случая, при условии, что 0 градусов - у напряжения 4В).
Ладно . Упрощенно это считается так:
- полное сопротивление будет Z= корень квадратный( R^2 + X^2), где Х=2*PI*f*L (сопротивление катушки);
- ток равен I=U/Z, где U - входное напряжение;
- напряжение на резисторе Ur=I*R;
- напряжение на катушке U=I*X.
Вот. Но здесь не расчитывается фаза, а это не менее интересно. Без этого не понять, почему параллельный колебательный контур на резонансной частоте имеет высокое (в идеальном случае бесконечное) сопротивление, и почему последовательный колебательный контур на резонансной частоте имеет малое (в идеальном случае нулевое) сопротивление.... Без теории цепей вообще жизнь не жизнь!
Для вашей схемы могу сказать, что ток, текущий по цепи, сдвинут относительно входного напряжения по фазе где-то от 0 до 90 градусов. Конкретное значение зависит от соотношения сопротивлений резистора и катушки (на данной частоте).

так кажется и получается 7V фаза правда градусов 20

Ну, если бы установили на генераторах 3В и 4В амплитудное значение, то в сумме бы получили 5В. Но поскольку у вас 3В и 4В - это действующее (эффективное), на что указывают буквы RMS, то и в сумме получилось 5В действующего значения (или по амплитуде - это 5 умножить на корень из двух)...
Я вам не врал. Повторите эксперимент, но только пользуйтесь либо осциллом правильно (обратили бы внимание, что все сигналы на осцилле по амплитуде больше 5В, хотя один из них должен быть меньше - тот, который с генератора снимается ), либо вытащите на схему тестер (не помню, он там кажется только RMS измеряет, но не суть).

понял спасибо. Конечно хочется очень почитать книжки от куда ты все это знаешь.. Можешь порекомендовать парочку?

Модератор (rezident). Крайне Вам рекомендую перечитать Правила форума. Особенно раздел 3.4, описывающий принципы цитирования. Я не желаю более править каждое Ваше сообщение, укорачивая процитированное Вами. Учитесь пользоваться редактором сообщений самостоятельно!

Это курс теории цепей (основы теории цепей, курс общей электротехники и т.д.).

Для старта можно П. Хоровиц, У.Хилл "Искусство схемотехники" - там в начале упрощенно необходимая база есть.
Для глубокой проработки - любой учебник по вышеуказанным предметам, лично мне нравится Л.А.Бессонов "Теоретические основы электротехники" (хотя, пожалуй, больше ничего и не читал). Книг по этой теме куча. Как правило требуется немного знать математику (чем глубже в курс - тем математики больше). Обычно весь курс электротехники изучается в ВУЗе за 1-ый курс. Параллельно (если повезет ) изучается математика (те разделы, которые необходимы для освоения электротехники). Но, как уже говорил, это первый курс ВУЗа.