Ответ:

а) Найдём координаты вектора \(\vec p\):

\[\vec p=-(1;1;2)+2(-2;1;-1)+3(0;2;3).\]

\[\vec p=(-1;-1;-2)+(-4;2;-2)+(0;6;9)=(-5;7;5).\]

б) Сначала найдём координаты двух векторов:

\[2\vec a+\vec b=(2;2;4)+(-2;1;-1)=(0;3;3),\]

\[\vec a-3\vec c=(1;1;2)-(0;6;9)=(1;-5;-7).\]

Их скалярное произведение:

\[(2\vec a+\vec b)(\vec a-3\vec c)=0\cdot1+3\cdot(-5)+3\cdot(-7)=-36.\]

Ответ: а) \(\vec p=(-5;7;5)\); б) \(-36\).