Даны два объёма соединённые круглым отверстием. извесно количество вещества (водород) в первом сосуде при давлении 5*10^-4 в другом сосуде давление 10^-8. Какая доля водорода диффундирует за 1 секунду?

Длина свободного пробега существенно превышает диаметр отверстия? Тогда просто вспомните школьную молекулярно-кинетическую теорию, посчитайте число молекул, проходящих через площадь этого отверстия в секунду слева и справа, и из потока слева вычтете поток справа.

Да режим течения газа молекулярный.
Можно поточнее о расчёте потока через отверстие?

Подробности можно (и нужно) найти в учебниках по молекулярной физике.

Нашёл выражения М=(р1-р2)*S*sqrt(m/2*pi*R*T) где р1 и р2 давления S площадь отверстия m молярная масса М- масса прошедшего газа за единицу времени
и М=1/6*m0*n*v*S*t где m0 масса молекулы n концентрация v средняя скорость
Какой надо пользоваться ?

Почти совпадает. У Вас m это молекулярная масса, а на картинке (формула 1.20) m это масса молекулы.
Нажмите для просмотра прикрепленного файла
Это из книги Техника сверхвысокого вакуума. Уэстон.Дж. 1988

Вы перепутали R и k.

Спасибо за помощь