По основному тригонометрическому тождеству
sin2 α + cos2 α = 1.
sin2 α = 1 - cos2 α
sin2 α = 1 - (-12/13)2 = 1 - 144/169 = (169 - 144)/169 = 25/169
Так как
π < α < 3π/2, то
sin α отрицателен. Следовательно,
sin α = -√(25/169) = -5/13.
По основному тригонометрическому тождеству
sin2 β + cos2 β = 1.
cos2 β = 1 - sin2 β
cos2 β = 1 - (4/5)2 = 1 - 16/25 = (25 - 16)/25 = 9/25
Так как
π/2 < β < π, то
cos β отрицателен. Следовательно,
cos β = -√(9/25) = -3/5.
Используем формулу косинуса разности:
cos(α - β) = cos α · cos β + sin α · sin β.
cos(α - β) = (-12/13) · (-3/5) + (-5/13) · (4/5)
cos(α - β) = 36/65 - 20/65 = (36 - 20)/65 = 16/65
Ответ: 16/65