Используем теорему косинусов: \( AB^2 = AC^2 + BC^2 - 2 \cdot AC \cdot BC \cdot \cos C \). Подставляем известные значения: \( AB^2 = 5^2 + (\sqrt{3})^2 - 2 \cdot 5 \cdot \sqrt{3} \cdot \cos 150^\circ \). Поскольку \( \cos 150^\circ = -\frac{\sqrt{3}}{2} \), получаем: \( AB^2 = 25 + 3 - 2 \cdot 5 \cdot \sqrt{3} \cdot (-\frac{\sqrt{3}}{2}) = 25 + 3 + 15 = 43 \). Значит, \( AB = \sqrt{43} \). Ответ: \( \sqrt{43} \).