Ответ:

По теореме косинусов для угла \(M\), противолежащая сторона — \(LN\):

\(LN^2=LM^2+MN^2-2\cdot LM\cdot MN\cdot\cos M\).

Выразим косинус: \(\cos M=\dfrac{LM^2+MN^2-LN^2}{2\cdot LM\cdot MN}\).

Подставим длины: \(\cos M=\dfrac{5^2+7^2-8^2}{2\cdot5\cdot7}=\dfrac{25+49-64}{70}=\dfrac{1}{7}\).

Ответ: \(\cos M=\dfrac{1}{7}\).