Объясните пожалуйста, что за странный знак и что он означает в этих формулах.

Я бы сказал что это обычный квадратный корень, может приведете источник откуда Вы это взяли?

Я послал Вам ссылку.

Обычный , это все что за ним -под ним, или как?

В старой литературе (в основном в справочниках) частенько были такие ляпы. Дело в том, что "тогдашние" гарнитуры в типографиях не всегда позволяли корректно отобразить мат. формулы. Под этим корнем может быть и один член (К), и произведение К на следующую дробь. По "вырванному" фрагменту трудно определить, что должно быть в данном конкретном случае - следует проанализировать предыдущие формулы, и разобраться, что это за коэффициент "К".

... вывод:

1) К~ф^2 - "К" должно быть пропорционально "ф" в степени 2
2) в обоих знаменателях должна быть 3-я степень "ф"


следовательно - значок корня читать как корень только из "К".

к тому же если бы хотели сделать корень из произвдения, то неоднозначности можно избежать с помощью скобок:
КОРЕНЬ(К*(Фс^2-Фв^2))

Под корнем произведение скаляра на разность/сумму во всех случаях, по правилам записи корень не ставится в самое начало, если между ним и ещё чем-нибудь нет спецзнака