Ответ:
Сначала найдём \(\vec a\cdot\vec b=|\vec a||\vec b|\cos60^\circ=3\cdot2\cdot\frac12=3\). Вектор \(\vec c\) перпендикулярен \(\vec a\) и \(\vec b\), поэтому его слагаемые в скалярном произведении дают ноль.
\(\vec m\cdot\vec n=(2\vec a-\vec b+\vec c)\cdot(\vec a-2\vec b)=2|\vec a|^2-5(\vec a\cdot\vec b)+2|\vec b|^2\).
Подставим значения: \(2\cdot3^2-5\cdot3+2\cdot2^2=18-15+8=11\).
Ответ: \(\vec m\cdot\vec n=11\).
