Ответ:

Используем формулу \(\cos\varphi=\frac{\vec a\cdot\vec b}{|\vec a||\vec b|}\).

\(\vec a\cdot\vec b=5\cdot2+(-1)\cdot6+(-2)\cdot(-3)=10.\)

Длины векторов: \(|\vec a|=\sqrt{25+1+4}=\sqrt{30}\), \(|\vec b|=\sqrt{4+36+9}=7\).

Значит, \(\cos\varphi=\frac{10}{7\sqrt{30}}\).

Ответ: \(\frac{10}{7\sqrt{30}}\).