Ответ:

Проверим, что такой треугольник существует: 5 + 8 > 11. Больший угол лежит напротив наибольшей стороны, то есть стороны 11 см.

По теореме косинусов для угла напротив стороны 11 см:

cos α = (5² + 8² − 11²) / (2 · 5 · 8) = (25 + 64 − 121) / 80 = −32/80 = −2/5.

Ответ: косинус большего угла равен −2/5.