Ответ:

Больший угол лежит напротив наибольшей стороны — 11 см. По теореме косинусов для этого угла \(\gamma\):

\(\cos\gamma=\frac{5^2+8^2-11^2}{2\cdot5\cdot8}=\frac{25+64-121}{80}=-\frac{32}{80}=-\frac25\).

Ответ: \(-\frac25\).