Ответ:

Вынесем √50 и применим формулу cos² x − sin² x = cos 2x:

√50(cos²(9π/8) − sin²(9π/8)) = √50 cos(9π/4).

Так как cos(9π/4) = cos(π/4) = √2/2, получаем √50 · √2/2 = √100/2 = 5.

Ответ: 5.