Ответ:

Угол \(B\) лежит между сторонами \(AB\) и \(BC\), а противоположная ему сторона — \(AC\).

По теореме косинусов:

\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos\angle ABC\]

Выразим косинус:

\[\cos\angle ABC=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\]

Подставим значения:

\[\cos\angle ABC=\frac{5^2+10^2-11^2}{2\cdot5\cdot10}=\frac{25+100-121}{100}=\frac4{100}=\frac1{25}\]

Ответ: \(\cos\angle ABC=\frac1{25}\).