Ответ:

а) Найдём координаты вектора \(\vec p\):

\[3\vec a=(6;-15;18),\qquad 2\vec b=(-6;16;2).\]

\[\vec p=3\vec a-2\vec b=(6;-15;18)-(-6;16;2)=(12;-31;16).\]

б) Скалярное произведение:

\[\vec a\cdot\vec b=2\cdot(-3)+(-5)\cdot8+6\cdot1=-6-40+6=-40.\]

в) Косинус угла между векторами:

\[|\vec a|=\sqrt{2^2+(-5)^2+6^2}=\sqrt{65},\qquad |\vec b|=\sqrt{(-3)^2+8^2+1^2}=\sqrt{74}.\]

\[\cos\varphi=\frac{\vec a\cdot\vec b}{|\vec a|\,|\vec b|}=\frac{-40}{\sqrt{65}\sqrt{74}}=\frac{-40}{\sqrt{4810}}.\]

Ответ: а) \(\vec p=(12;-31;16)\); б) \(\vec a\cdot\vec b=-40\); в) \(\cos\varphi=\dfrac{-40}{\sqrt{4810}}\).