Ответ:

Сначала найдём разность векторов: \(\vec a-2\vec b=(5;-1;2)-(6;4;-8)=(-1;-5;10)\).

Тогда \(|\vec a-2\vec b|=\sqrt{(-1)^2+(-5)^2+10^2}=\sqrt{126}=3\sqrt{14}\).

Ответ: \(3\sqrt{14}\).