Ответ:

Угол ABC заключён между сторонами AB и BC, а противолежащая ему сторона — AC. По теореме косинусов:

\(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC\).

Выразим косинус и подставим длины сторон:

\(\cos\angle ABC=\dfrac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\dfrac{5^2+7^2-9^2}{2\cdot5\cdot7}=\dfrac{-7}{70}=-\dfrac{1}{10}\).

Ответ: \(\cos\angle ABC=-\dfrac{1}{10}\).