Ответ:

Применим теорему косинусов для стороны AC, противоположной углу B:

\(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC\).

Выразим косинус:

\(\cos\angle ABC=\dfrac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\dfrac{4^2+5^2-6^2}{2\cdot4\cdot5}=\dfrac{5}{40}=\dfrac18\).

Ответ: \(\cos\angle ABC=\dfrac18\).