Ответ:
Пусть искомая окружность касается луча \(AB\) в точке \(T\), а её центр — \(O\). Так как окружность проходит через \(M\) и \(N\), а точки \(M,N\) лежат на луче \(AC\), окружность пересекает луч \(AC\) в этих точках.
Для окружности, проходящей через две точки на луче \(AC\) и касающейся луча \(AB\), используется степенное свойство точки \(A\):
\[AT^2=AM\cdot AN=9\cdot20=180.\]
Следовательно, \(AT=6\sqrt5\).
В треугольнике \(ATC\) угол при \(A\) равен \(\angle BAC\), а радиус окружности равен расстоянию от центра до касательной. Из прямоугольного треугольника, образованного радиусом и перпендикуляром к лучу \(AB\), получаем
\[R=AT\sin\angle BAC.\]
Так как \(\cos\angle BAC=\frac{\sqrt5}{3}\), то
\[\sin\angle BAC=\sqrt{1-\frac59}=\frac23.\]
Поэтому
\[R=6\sqrt5\cdot\frac23=4\sqrt5.\]
Ответ: \(4\sqrt5\).
