5. Найдите косинус угла между векторами b = 6m-n и с = m + 3n, если m⊥ n и |m| = |n| = 1.

Найдём скалярное произведение векторов $$\\vec{b}$$ и $$\\vec{c}$$.

$$\\vec{b} \\cdot \\vec{c} = (6\\vec{m} - \\vec{n}) \\cdot (\\vec{m} + 3\\vec{n}) = 6\\vec{m}^2 + 18\\vec{m}\\vec{n} - \\vec{n}\\vec{m} - 3\\vec{n}^2$$.

Так как $$\\vec{m} \\perp \\vec{n}$$, то $$\\vec{m}\\vec{n} = 0$$. Также $$|\\vec{m}| = |\\vec{n}| = 1$$, то есть $$\\vec{m}^2 = |\\vec{m}|^2 = 1$$ и $$\\vec{n}^2 = |\\vec{n}|^2 = 1$$.

$$\\vec{b} \\cdot \\vec{c} = 6 \\cdot 1 + 18 \\cdot 0 - 0 - 3 \\cdot 1 = 6 - 3 = 3$$.

Найдём модули векторов $$\\vec{b}$$ и $$\\vec{c}$$.

$$|\\vec{b}| = \\sqrt{(6\\vec{m} - \\vec{n})^2} = \\sqrt{36\\vec{m}^2 - 12\\vec{m}\\vec{n} + \\vec{n}^2} = \\sqrt{36 \\cdot 1 - 12 \\cdot 0 + 1} = \\sqrt{37}$$.

$$|\\vec{c}| = \\sqrt{(\\vec{m} + 3\\vec{n})^2} = \\sqrt{\\vec{m}^2 + 6\\vec{m}\\vec{n} + 9\\vec{n}^2} = \\sqrt{1 + 6 \\cdot 0 + 9 \\cdot 1} = \\sqrt{10}$$.

Тогда косинус угла между векторами $$\\vec{b}$$ и $$\\vec{c}$$ равен:

$$cos(\alpha) = \\frac{\\vec{b} \\cdot \\vec{c}}{|\\vec{b}| \\cdot |\\vec{c}|} = \\frac{3}{\\sqrt{37} \\cdot \\sqrt{10}} = \\frac{3}{\\sqrt{370}}$$.

Ответ: $$\\frac{3}{\\sqrt{370}}$$.