Ответ:

Обозначим через \(x=BC\). По теореме косинусов для стороны \(AC\):

\(AC^2=AB^2+BC^2-2\cdot AB\cdot BC\cdot\cos B\).

Подставим данные: \(72=25+x^2-5\sqrt{2}x\), откуда \(x^2-5\sqrt{2}x-47=0\).

Положительный корень: \(x=\dfrac{5\sqrt{2}+\sqrt{238}}{2}\). Тогда площадь равна

\(S=\dfrac12 AB\cdot BC\cdot\sin B=\dfrac{5x\sqrt{2}}{4}=\dfrac{25+5\sqrt{119}}{4}\).

Ответ: \(\dfrac{25+5\sqrt{119}}{4}\) кв. ед.