Ответ:

По теореме косинусов для стороны AB, лежащей напротив угла α:

\(AB^2=a^2+b^2-2ab\cos\alpha\).

Берём положительный корень, поскольку расстояние положительно:

Ответ: \(AB=\sqrt{a^2+b^2-2ab\cos\alpha}\).