Ответ:

По теореме косинусов:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}.\]

Подставим значения:

\[\cos\angle ABC=\frac{5^2+6^2-4^2}{2\cdot5\cdot6}=\frac{25+36-16}{60}=\frac{45}{60}=\frac{3}{4}.\]

Ответ: \( \frac{3}{4} \).