Ответ:
По теореме косинусов для угла \(B\):
\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC.\]
Отсюда:
\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}.\]
Подставим значения:
\[\cos\angle ABC=\frac{2^2+10^2-11^2}{2\cdot2\cdot10}=\frac{4+100-121}{40}=-\frac{17}{40}.\]
Ответ: \(\cos\angle ABC=-\frac{17}{40}\).
