Ответ:

По теореме косинусов для угла \(\angle ABC\):

\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot \cos\angle ABC\]

Выразим косинус:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\]

Подставим значения:

\[\cos\angle ABC=\frac{8^2+10^2-12^2}{2\cdot8\cdot10}=\frac{64+100-144}{160}=\frac{20}{160}=\frac{1}{8}\]

Ответ: \(\cos\angle ABC=\frac{1}{8}\).