3. Даны векторы \(\vec a=(2; 0; -3)\) и \(\vec b=(1; -2; -1)\). Найти косинус угла между векторами \(\vec a\) и \(\vec b\).

Используем формулу \(\cos\varphi=\frac{\vec a\cdot\vec b}{|\vec a||\vec b|}\).

Скалярное произведение: \(\vec a\cdot\vec b=2\cdot1+0\cdot(-2)+(-3)\cdot(-1)=5\).

Длины векторов: \(|\vec a|=\sqrt{2^2+0^2+(-3)^2}=\sqrt{13}\), \(|\vec b|=\sqrt{1^2+(-2)^2+(-1)^2}=\sqrt{6}\).

Следовательно, \(\cos\varphi=\frac{5}{\sqrt{13}\sqrt{6}}=\frac{5}{\sqrt{78}}\).

Ответ: \(\cos\varphi=\frac{5}{\sqrt{78}}\).