Для нахождения косинуса угла ABC воспользуемся теоремой косинусов:
$$AC^2 = AB^2 + BC^2 - 2 cdot AB cdot BC cdot cos(ABC)$$
Выразим из этого уравнения cos(ABC):
$$cos(ABC) = \frac{AB^2 + BC^2 - AC^2}{2 cdot AB cdot BC}$$
Подставим известные значения:
$$cos(ABC) = \frac{5^2 + 10^2 - 11^2}{2 cdot 5 cdot 10} = \frac{25 + 100 - 121}{100} = \frac{4}{100} = 0.04$$
Ответ: cos ABC = 0.04