Ответ:
Так как \(\vec c\) перпендикулярен и \(\vec a\), и \(\vec b\), то \(\vec c\cdot(\vec a-2\vec b)=0\). Поэтому
\(\vec m\cdot\vec n=(2\vec a-\vec b)\cdot(\vec a-2\vec b)=2|\vec a|^2-5(\vec a\cdot\vec b)+2|\vec b|^2.\)
Сначала найдём \(\vec a\cdot\vec b=|\vec a||\vec b|\cos60^\circ=3\cdot2\cdot\frac12=3\). Тогда
\(\vec m\cdot\vec n=2\cdot9-5\cdot3+2\cdot4=18-15+8=11.\)
Ответ: 11.
