Ответ:
Используем распределительный закон скалярного произведения:
\((2\vec b-3\vec a)\cdot(2\vec a-\vec b)=4(\vec b\cdot\vec a)-2|\vec b|^2-6|\vec a|^2+3(\vec a\cdot\vec b)\).
По формуле скалярного произведения \(\vec a\cdot\vec b=|\vec a||\vec b|\cos120^\circ=3\cdot8\cdot(-\frac12)=-12\).
Подставляем: \(7(-12)-2\cdot64-6\cdot9=-84-128-54=-266\).
Ответ: −266.
