Ответ:
Угол KLM заключён между сторонами KL и LM; напротив него лежит KM. По теореме косинусов:
\(\cos\angle KLM=\dfrac{KL^2+LM^2-KM^2}{2\cdot KL\cdot LM}\).
\(\cos\angle KLM=\dfrac{5^2+8^2-11^2}{2\cdot5\cdot8}=\dfrac{25+64-121}{80}=-\dfrac{2}{5}\).
Ответ: \(-\dfrac{2}{5}\).
