Ответ:

Обозначим искомый угол через \(\gamma\). По теореме косинусов:

\(\cos\gamma=\frac{5^2+7^2-8^2}{2\cdot5\cdot7}=\frac{25+49-64}{70}=\frac{10}{70}=\frac17.\)

Ответ: \(\cos\gamma=\frac17\).