Ответ:

Сначала найдём третий угол: \(\angle C=180^\circ-120^\circ-45^\circ=15^\circ\).

По теореме синусов \(\frac{AC}{\sin B}=2R\). Тогда \(2R=\frac{5\sqrt2}{\sin45^\circ}=10\), откуда \(R=5\).

Снова применим теорему синусов для стороны \(AB\), лежащей напротив угла \(C\):

\(AB=2R\sin C=10\sin15^\circ=10\cdot\frac{\sqrt6-\sqrt2}{4}=\frac52(\sqrt6-\sqrt2).\)

Ответ: \(AB=\frac52(\sqrt6-\sqrt2)\), \(R=5\).