Ответ:

По теореме косинусов:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}.\]

Подставим значения:

\[\cos\angle ABC=\frac{5^2+7^2-9^2}{2\cdot5\cdot7}=\frac{25+49-81}{70}=-\frac{7}{70}=-\frac1{10}.\]

Ответ: \(\cos\angle ABC=-\frac1{10}\).