Ответ:

Наибольший угол лежит против наибольшей стороны, то есть стороны 7.

Обозначим этот угол через \(\gamma\). По теореме косинусов:

\(\cos\gamma=\frac{5^2+6^2-7^2}{2\cdot5\cdot6}=\frac{25+36-49}{60}=\frac{12}{60}=\frac15\).

Ответ: \(\frac15\).