Ответ:

По теореме косинусов, если угол напротив стороны \(c\) обозначить \(C\), то \(c^2=a^2+b^2-2ab\cos C\).

Сравнивая с данным равенством, получаем \(-2ab\cos C=ab\sqrt3\). Поскольку стороны треугольника положительны, \(\cos C=-\frac{\sqrt3}{2}\). Угол треугольника лежит между 0° и 180°, поэтому \(C=150^\circ\).

Что и требовалось доказать.