5. Даны точки A(-1; 5; 3), B(7; -1; 3), C(3; -2; 6). Доказать, что треугольник ABC — прямоугольный.

Найдём векторы, выходящие из вершины C:

\(\overrightarrow{CA}=A-C=(-1-3;5-(-2);3-6)=(-4;7;-3)\).

\(\overrightarrow{CB}=B-C=(7-3;-1-(-2);3-6)=(4;1;-3)\).

Проверим их скалярное произведение:

\(\overrightarrow{CA}\cdot\overrightarrow{CB}=(-4)\cdot4+7\cdot1+(-3)\cdot(-3)=-16+7+9=0\).

Значит, векторы \(\overrightarrow{CA}\) и \(\overrightarrow{CB}\) перпендикулярны. Следовательно, угол ACB прямой.

Ответ: треугольник ABC прямоугольный, \(\angle ACB=90^\circ\).