Ответ:
По теореме косинусов для угла B:
\[AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos B\]
Выразим косинус:
\[\cos B=\frac{AB^2+BC^2-AC^2}{2\cdot AB\cdot BC}\]
Подставим значения:
\[\cos B=\frac{5^2+10^2-11^2}{2\cdot5\cdot10}=\frac{25+100-121}{100}=\frac4{100}=0.04\]
Ответ: \(\cos\angle ABC=0.04\).
