Ответ:

В условии не указано, при какой вершине угол равен 60°. Возможны три трактовки:

  1. Если ∠A = 60°, то \(S=\frac12\cdot AB\cdot AC\cdot\sin A=\frac12\cdot5\cdot6\sqrt3\cdot\frac{\sqrt3}{2}=\frac{45}{2}\).
  2. Если ∠B = 60°, то по теореме косинусов \(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cos B\). Подстановка даёт \(108=25+BC^2-5BC\), откуда \(BC=\frac{5+\sqrt{357}}{2}\). Тогда \(S=\frac12\cdot AB\cdot BC\cdot\sin B=\frac{5(5+\sqrt{357})\sqrt3}{8}\).
  3. Если ∠C = 60°, то \(S=\frac12\cdot AC\cdot BC\cdot\sin C\). По теореме косинусов \(25=108+BC^2-6\sqrt3\,BC\), откуда \(BC=3\sqrt3+\sqrt{12+\sqrt{75}}\) (берётся положительный корень). Следовательно, \(S=\frac{9\sqrt3}{2}+\frac{3}{2}\sqrt{12+\sqrt{75}}\).

Уточните, при какой вершине задан угол, чтобы определить единственный ответ.