Ответ:
Вариант 1. Раскрываем скалярное произведение:
\((\vec a+2\vec b-\vec c)\cdot(2\vec a-\vec b)=2|\vec a|^2+3(\vec a\cdot\vec b)-2|\vec b|^2-2(\vec c\cdot\vec a)+\vec c\cdot\vec b\).
Так как \(\vec c\) перпендикулярен и \(\vec a\), и \(\vec b\), оба слагаемых с \(\vec c\) равны нулю. Кроме того, \(\vec a\cdot\vec b=|\vec a||\vec b|\cos60^\circ=2\cdot3\cdot\frac12=3\).
Получаем: \(2\cdot2^2+3\cdot3-2\cdot3^2=8+9-18=-1\).
Вариант 2.
\((2\vec a-\vec b+\vec c)\cdot(\vec a-2\vec b)=2|\vec a|^2-5(\vec a\cdot\vec b)+2|\vec b|^2+\vec c\cdot\vec a-2(\vec c\cdot\vec b)\).
Слагаемые с \(\vec c\) равны нулю. \(\vec a\cdot\vec b=3\cdot2\cdot\cos60^\circ=3\).
Тогда \(2\cdot3^2-5\cdot3+2\cdot2^2=18-15+8=11\).
Ответ: вариант 1 — \(-1\); вариант 2 — \(11\).
