Ответ:
Пусть A — начало координат, AC — ось x, а θ = ∠BAC. Тогда M(9; 0), N(11; 0), cos θ = √11/6. Поскольку треугольник остроугольный, sin θ = 5/6.
Центр O любой окружности через M и N лежит на серединном перпендикуляре к MN, поэтому обозначим O(10; t). Радиус удовлетворяет равенству \(r^2=1+t^2\).
Расстояние от O до прямой AB равно радиусу. Единичная нормаль к AB имеет координаты (−sin θ; cos θ), поэтому
\[\left|-10\sin\theta+t\cos\theta\right|=r.\]
Возведём обе части в квадрат и подставим значения синуса и косинуса:
\[\left(\frac{\sqrt{11}t-50}{6}\right)^2=1+t^2,\]
\[25t^2+100\sqrt{11}t-2464=0.\]
Отсюда \(t=\frac{8\sqrt{11}}5\) или \(t=-\frac{28\sqrt{11}}5\). Чтобы окружность касалась именно луча AB, а не его продолжения за точку A, проекция центра O на направление луча должна быть положительной. Для этих двух значений t скалярное произведение O на единичный вектор луча AB равно соответственно \(3\sqrt{11}\) и \(-3\sqrt{11}\). Второй корень не подходит.
Для \(t=\frac{8\sqrt{11}}5\):
\[r=\sqrt{1+t^2}=\sqrt{1+\frac{704}{25}}=\frac{27}{5}.\]
Ответ: \(\frac{27}{5}\).
