Ответ:

Обозначим стороны треугольника, заключающие угол 60°, как \(a=6\) и \(b=12\), а третью сторону — \(c\). По теореме косинусов:

\(c^2=6^2+12^2-2\cdot6\cdot12\cos60^\circ=36+144-72=108,\quad c=6\sqrt3.\)

Пусть \(I\) — центр вписанной окружности, а \(A,B\) — концы стороны длины \(c\). Искомая окружность проходит через \(A,B,I\). В треугольнике \(AIB\) угол при \(I\) равен \(90^\circ+\frac{C}{2}\), где \(C\) — угол треугольника напротив стороны \(c\). Радиус описанной окружности треугольника \(AIB\):

\(R=\frac{AB}{2\sin\angle AIB}=\frac{c}{2\cos(C/2)}.\)

Найдём \(\cos C\) по теореме косинусов:

\(\cos C=\frac{6^2+12^2-(6\sqrt3)^2}{2\cdot6\cdot12}=\frac{36}{144}=\frac14.\)

Тогда \(\cos(C/2)=\sqrt{\frac{1+\cos C}{2}}=\sqrt{\frac58}=\frac{\sqrt{10}}4\), поэтому

\(R=\frac{6\sqrt3}{2\cdot\sqrt{10}/4}=\frac{12\sqrt3}{\sqrt{10}}=\frac{6\sqrt{30}}5.\)

Ответ: \(R=\frac{6\sqrt{30}}5\).