Ответ:

По теореме косинусов для угла B сторона AC — противолежащая:

\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC.\]

Выразим косинус и подставим значения:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\frac{5^2+4^2-7^2}{2\cdot5\cdot4}=\frac{25+16-49}{40}=-\frac{1}{5}.\]

Ответ: \(\cos\angle ABC=-\frac{1}{5}\).