Ответ:

По теореме косинусов:

\(a^2=b^2+c^2-2bc\cos\alpha\).

Отсюда:

\(\cos\alpha=\frac{b^2+c^2-a^2}{2bc}=\frac{5^2+7^2-3^2}{2\cdot5\cdot7}=\frac{25+49-9}{70}=\frac{65}{70}=\frac{13}{14}\).

Ответ: \(\cos\alpha=\frac{13}{14}\).