По теореме косинусов:
$$AC^2 = AB^2 + BC^2 - 2 \cdot AB \cdot BC \cdot cos \angle ABC$$Выразим косинус угла ABC:
$$cos \angle ABC = \frac{AB^2 + BC^2 - AC^2}{2 \cdot AB \cdot BC}$$Подставим известные значения:
$$cos \angle ABC = \frac{8^2 + 10^2 - 12^2}{2 \cdot 8 \cdot 10} = \frac{64 + 100 - 144}{160} = \frac{20}{160} = \frac{1}{8}$$Ответ: $$cos \angle ABC = \frac{1}{8}$$