Ответ:

По теореме косинусов для угла \(B\): \(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos B\).

Отсюда \(\cos B=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\frac{25+36-16}{2\cdot5\cdot6}=\frac{45}{60}=\frac34\).

Ответ: \(\cos B=\frac34\).