Ответ:

Вариант 1. Раскрываем скалярное произведение:

\((\vec a+2\vec b-\vec c)\cdot(2\vec a-\vec b)=2|\vec a|^2+3(\vec a\cdot\vec b)-2|\vec b|^2-2(\vec c\cdot\vec a)+\vec c\cdot\vec b\).

Так как \(\vec c\) перпендикулярен и \(\vec a\), и \(\vec b\), оба слагаемых с \(\vec c\) равны нулю. Кроме того, \(\vec a\cdot\vec b=|\vec a||\vec b|\cos60^\circ=2\cdot3\cdot\frac12=3\).

Получаем: \(2\cdot2^2+3\cdot3-2\cdot3^2=8+9-18=-1\).

Вариант 2.

\((2\vec a-\vec b+\vec c)\cdot(\vec a-2\vec b)=2|\vec a|^2-5(\vec a\cdot\vec b)+2|\vec b|^2+\vec c\cdot\vec a-2(\vec c\cdot\vec b)\).

Слагаемые с \(\vec c\) равны нулю. \(\vec a\cdot\vec b=3\cdot2\cdot\cos60^\circ=3\).

Тогда \(2\cdot3^2-5\cdot3+2\cdot2^2=18-15+8=11\).

Ответ: вариант 1 — \(-1\); вариант 2 — \(11\).