Ответ:

По теореме косинусов для угла B: \(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC\).

Выразим косинус и подставим длины сторон: \(\cos\angle ABC=\dfrac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\dfrac{4^2+6^2-8^2}{2\cdot4\cdot6}=\dfrac{-12}{48}=-\dfrac14\).

Ответ: \(\cos\angle ABC=-\dfrac14\).