Ответ:

Найдём длины сторон по координатам:

\(\overrightarrow{CP}=(8;-6)\), поэтому \(|CP|=\sqrt{8^2+(-6)^2}=10\).

\(\overrightarrow{PM}=(-4;-8)\), поэтому \(|PM|=\sqrt{(-4)^2+(-8)^2}=4\sqrt5\).

\(\overrightarrow{CM}=(4;-14)\), поэтому \(|CM|=\sqrt{4^2+(-14)^2}=2\sqrt{53}\).

Наименьшая сторона — \(PM\), следовательно, меньший угол лежит напротив неё, то есть это угол C.

\(\cos C=\dfrac{\overrightarrow{CP}\cdot\overrightarrow{CM}}{|CP|\,|CM|}=\dfrac{8\cdot4+(-6)\cdot(-14)}{10\cdot2\sqrt{53}}=\dfrac{116}{20\sqrt{53}}=\dfrac{29}{5\sqrt{53}}\).

Ответ: \(\cos C=\dfrac{29}{5\sqrt{53}}\).