Решение:
1) Координаты векторов:
$$\vec{AB} = (1 - (-5); -2 - 1) = (6; -3)$$
$$\vec{AC} = (-1 - (-5); 0 - 1) = (4; -1)$$
2) Модули векторов:
$$|\vec{AB}| = \sqrt{6^2 + (-3)^2} = \sqrt{36 + 9} = \sqrt{45} = 3\sqrt{5}$$
$$|\vec{AC}| = \sqrt{4^2 + (-1)^2} = \sqrt{16 + 1} = \sqrt{17}$$
3) Координаты вектора $$\vec{MK}$$:
$$\vec{MK} = 2\vec{AB} - 3\vec{AC} = 2(6; -3) - 3(4; -1) = (12; -6) - (12; -3) = (12 - 12; -6 - (-3)) = (0; -3)$$
4) Скалярное произведение векторов:
$$\vec{AB} \cdot \vec{AC} = (6 \cdot 4) + (-3 \cdot -1) = 24 + 3 = 27$$
5) Косинус угла между векторами:
$$\cos(\angle BAC) = \frac{\vec{AB} \cdot \vec{AC}}{|\vec{AB}| \cdot |\vec{AC}|} = \frac{27}{3\sqrt{5} \cdot \sqrt{17}} = \frac{9}{\sqrt{85}}$$