Ответ:

а) Сначала умножим координаты \(\vec b\) на 2, затем вычтем их из соответствующих координат \(\vec a\):

\(\vec a-2\vec b=(5;-1;2)-(6;4;-8)=(-1;-5;10)\).

б) Найдём длину полученного вектора:

\(|\vec a-2\vec b|=\sqrt{(-1)^2+(-5)^2+10^2}=\sqrt{1+25+100}=\sqrt{126}=3\sqrt{14}\).

в) Скалярное произведение равно сумме произведений соответствующих координат:

\(\vec a\cdot\vec b=5\cdot3+(-1)\cdot2+2\cdot(-4)=15-2-8=5\).

Ответ: а) \((-1;-5;10)\); б) \(3\sqrt{14}\); в) \(5\).