Пусть O - центр окружности, проходящей через точки M и N и касающейся луча AB. Пусть R - радиус окружности.
Пусть угол ∠BAC = α. Тогда cos α = $$\frac{\sqrt{5}}{3}$$
По теореме косинусов, $$sin α = \sqrt{1 - cos^2 α} = \sqrt{1 - (\frac{\sqrt{5}}{3})^2} = \sqrt{1 - \frac{5}{9}} = \sqrt{\frac{4}{9}} = \frac{2}{3}$$
Пусть точка касания окружности и луча AB - точка K. Тогда AK = x.
По теореме об отрезках касательной и секущей, $$AK^2 = AM \cdot AN$$
$$x^2 = 9 \cdot 20 = 180$$
$$x = \sqrt{180} = 6\sqrt{5}$$
По теореме синусов для треугольника AMO, $$\frac{AM}{sin ∠AMO} = 2R$$
$$sin ∠AMO = sin (90 - α) = cos α = \frac{\sqrt{5}}{3}$$
$$\frac{9}{\frac{\sqrt{5}}{3}} = 2R$$
$$\frac{27}{\sqrt{5}} = 2R$$
$$R = \frac{27}{2\sqrt{5}} = \frac{27\sqrt{5}}{10}$$
Ответ: $$\frac{27\sqrt{5}}{10}$$