5. Найдите косинус угла между векторами m = 3a − b и n = a + 4b, если a ⟂ b и |a| = |b| = 1.

Поскольку \(\vec a\perp\vec b\), их скалярное произведение равно нулю. Кроме того, \(|\vec a|^2=|\vec b|^2=1\).

\(\vec m\cdot\vec n=(3\vec a-\vec b)\cdot(\vec a+4\vec b)=3|\vec a|^2+12(\vec a\cdot\vec b)-|\vec b|^2-4(\vec b\cdot\vec a)=3-1=2\).

\(|\vec m|=\sqrt{9|\vec a|^2+|\vec b|^2}=\sqrt{10}\), а \(|\vec n|=\sqrt{|\vec a|^2+16|\vec b|^2}=\sqrt{17}\); смешанные слагаемые равны нулю из-за перпендикулярности.

Следовательно, \(\cos\angle(\vec m,\vec n)=\dfrac{\vec m\cdot\vec n}{|\vec m|\,|\vec n|}=\dfrac{2}{\sqrt{170}}\).

Ответ: \(\dfrac{2}{\sqrt{170}}\).