Ответ:

По теореме косинусов для угла B:

\(\cos \angle ABC=\dfrac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\).

Подставим длины сторон: \(\cos \angle ABC=\dfrac{4^2+5^2-6^2}{2\cdot4\cdot5}=\dfrac{5}{40}=\dfrac18\).

Ответ: \(\cos \angle ABC=\dfrac18\).