Ответ:
Пусть \(M\) — середина основания \(AC\), а \(O\) — центр данной окружности. Тогда \(AM=MC=6\), \(OM=8\), причём \(OM\perp AC\).
Центр окружности, касающейся продолжений боковых сторон, лежит на оси симметрии треугольника, поэтому обозначим высоту треугольника через \(h\). Из условия касания к боковой стороне расстояние от \(O\) до этой стороны равно 8. Для боковой стороны в координатах можно получить:
\[\frac{6|h-y_O|}{\sqrt{h^2+36}}=8,\qquad |y_O|=8.\]
Так как центр окружности находится вне треугольника, получается \(h=12\). Тогда боковая сторона:
\[AB=BC=\sqrt{6^2+12^2}=6\sqrt5.\]
Площадь треугольника:
\[S=\frac12\cdot12\cdot12=72.\]
Полупериметр:
\[p=\frac{12+2\cdot6\sqrt5}{2}=6+6\sqrt5.\]
Радиус вписанной окружности:
\[r=\frac{S}{p}=\frac{72}{6+6\sqrt5}=\frac{12}{1+\sqrt5}=3(\sqrt5-1).\]
Ответ: \(3(\sqrt5-1)\).
