Ответ:

По теореме косинусов:

\[AB^2=AC^2+BC^2-2\cdot AC\cdot BC\cdot\cos C.\]

Подставим значения:

\[AB^2=5^2+4^2-2\cdot5\cdot4\cdot\cos30^\circ=25+16-40\cdot\frac{\sqrt3}{2}=41-20\sqrt3.\]

Следовательно, \(AB=\sqrt{41-20\sqrt3}\).

Ответ: \(AB=\sqrt{41-20\sqrt3}\).