Цитата(reginil_y @ Apr 3 2012, 15:42)

Есть некая комплексная матрица V размером (Nx3). Я создаю Эрмитовую матрицу G=V^H*V (размер NxN). H обозначает conjugate transpose. Мне нужно выразить собственный вектор матрицы G соответствующий максимальному собственному значению.
собственные векторы этой матрицы будут равны сингулярным векторам Вашей исходной матрицы V. Один вызов lapack-acml с названием dgesvd полностью решит Вашу задачу. Лапак можно вытащить бесплатно и официально в исходниках, и не только для фортрана, но и С, хотя если точность и скорость работы Вас не волнует, а компилить-ставить лапак - лениво, будет проще поступить, как Вам уже Xenia ответила через 3х3 матрицу.