Ответ:

По теореме косинусов для угла B:

\(\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}=\frac{5^2+10^2-11^2}{2\cdot5\cdot10}=\frac{4}{100}=\frac{1}{25}\).

Ответ: \(\cos\angle ABC=\frac{1}{25}\).