Ответ:

Угол ABC лежит между сторонами AB и BC, а противоположная ему сторона — AC. По теореме косинусов:

\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC.\]

Выразим косинус:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}.\]

Подставим значения:

\[\cos\angle ABC=\frac{4^2+6^2-8^2}{2\cdot4\cdot6}=\frac{16+36-64}{48}=\frac{-12}{48}=-\frac14.\]

Ответ: \(\cos\angle ABC=-\frac14\).