Ответ:

По теореме косинусов для угла B: \(\cos B=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\).

\(\cos B=\frac{25+36-16}{2\cdot5\cdot6}=\frac{45}{60}=\frac34\).

Ответ: \(\frac34\).