Ответ:

По теореме косинусов:

\(AB^2=BC^2+AC^2-2\cdot BC\cdot AC\cos C\).

Подставим данные: \(AB^2=25+16-40\cdot\frac{\sqrt3}{2}=41-20\sqrt3\).

Так как длина стороны положительна, \(AB=\sqrt{41-20\sqrt3}\).

Ответ: \(AB=\sqrt{41-20\sqrt3}\).