Ответ:

  1. Умножаем координаты \(\vec b\) на 2 и вычитаем покоординатно:

    \(\vec a-2\vec b=(5; -1; 2)-(6; 4; -8)=(-1; -5; 10)\).

  2. Находим длину полученного вектора:

    \(|\vec a-2\vec b|=\sqrt{(-1)^2+(-5)^2+10^2}=\sqrt{126}=3\sqrt{14}\).

  3. Скалярное произведение равно сумме произведений соответствующих координат:

    \(\vec a\cdot\vec b=5\cdot3+(-1)\cdot2+2\cdot(-4)=15-2-8=5\).

Ответ: а) \((-1; -5; 10)\); б) \(3\sqrt{14}\); в) \(5\).