5. Найдите косинус угла между векторами a = n + 2m и b = 3n − m, если m ⟂ n, |m| = |n| = 1.

Так как m и n перпендикулярны и их длины равны 1, скалярное произведение a · b равно (n + 2m) · (3n − m) = 3(n · n) − 2(m · m) = 3 − 2 = 1.

Длины векторов: |a| = √(|n|² + 4|m|²) = √5; |b| = √(9|n|² + |m|²) = √10.

Следовательно, cos φ = (a · b)/(|a| · |b|) = 1/(√5 · √10) = 1/√50.

Ответ: cos φ = 1/√50.