Ответ:

Угол KLM заключён между сторонами KL и LM; напротив него лежит KM. По теореме косинусов:

\(\cos\angle KLM=\dfrac{KL^2+LM^2-KM^2}{2\cdot KL\cdot LM}\).

\(\cos\angle KLM=\dfrac{5^2+8^2-11^2}{2\cdot5\cdot8}=\dfrac{25+64-121}{80}=-\dfrac{2}{5}\).

Ответ: \(-\dfrac{2}{5}\).