Ответ:

По теореме косинусов для угла при вершине B:

\(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC\).

Отсюда:

\(\cos\angle ABC=\dfrac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\).

Подставим данные:

\(\cos\angle ABC=\dfrac{5^2+6^2-4^2}{2\cdot5\cdot6}=\dfrac{25+36-16}{60}=\dfrac{45}{60}=\dfrac{3}{4}\).

Ответ: \(\cos\angle ABC=\dfrac{3}{4}\).