5. Найдите косинус угла между векторами \(\vec a=\vec n+2\vec m\) и \(\vec b=3\vec n-\vec m\), если \(\vec m\perp\vec n\), \(|\vec m|=|\vec n|=1\).

Поскольку \(\vec m\perp\vec n\), их скалярное произведение равно нулю, а квадраты длин обоих векторов равны 1.

Найдём скалярное произведение:

\(\vec a\cdot\vec b=(\vec n+2\vec m)\cdot(3\vec n-\vec m)=3|\vec n|^2-2|\vec m|^2=3-2=1.\)

Найдём длины:

\(|\vec a|=\sqrt{|\vec n|^2+4|\vec m|^2}=\sqrt5,\qquad |\vec b|=\sqrt{9|\vec n|^2+|\vec m|^2}=\sqrt{10}.\)

По формуле косинуса угла между векторами:

\(\cos\varphi=\frac{\vec a\cdot\vec b}{|\vec a||\vec b|}=\frac1{\sqrt{50}}=\frac{\sqrt2}{10}.\)

Ответ: \(\frac{\sqrt2}{10}\).