Ответ:

Введём координаты: \(A=(0,h)\), \(B=(w,h)\), \(C=(w,0)\), \(D=(0,0)\), \(M=(0,y)\), где \(h=BC\), \(w=AB\).

а) Так как \(BM\perp AC\), скалярное произведение векторов \(\overrightarrow{BM}=(-w,y-h)\) и \(\overrightarrow{AC}=(w,-h)\) равно нулю. Поэтому \(w^2+hy-h^2=0\), то есть \(y=h-\dfrac{w^2}{h}\).

Из равенства расстояний \(MB=MD\) получаем \(w^2+(h-y)^2=y^2\), откуда \(y=\dfrac{w^2+h^2}{2h}\). Приравнивая два выражения для \(y\), имеем \(3w^2=h^2\), поэтому \(w=\dfrac{h}{\sqrt3}\), а \(y=\dfrac{2h}{3}\).

Угол \(ABM\) находится при вершине \(B\). В прямоугольном треугольнике с катетами \(AB=w\) и \(h-y=h/3\) имеем \(\tan\angle ABM=\dfrac{h/3}{w}=\dfrac{1}{\sqrt3}\), следовательно, \(\angle ABM=30^\circ\).

Для угла \(DBC\) катеты соответствующего прямоугольного треугольника равны \(AB=w\) и \(BC=h\). Поэтому \(\tan\angle DBC=\dfrac{w}{h}=\dfrac{1}{\sqrt3}\), и \(\angle DBC=30^\circ\). Что и требовалось доказать.

б) При \(h=9\) получаем \(w=3\sqrt3\) и \(y=6\). Тогда \(O=(w/2,h/2)=(3\sqrt3/2,9/2)\). Прямая \(CM\), проходящая через \(C=(3\sqrt3,0)\) и \(M=(0,6)\), имеет уравнение \(2x+\sqrt3y-6\sqrt3=0\).

Расстояние от точки \((x_0,y_0)\) до прямой \(Ax+By+C=0\) равно \(\dfrac{|Ax_0+By_0+C|}{\sqrt{A^2+B^2}}\). Следовательно, \(d(O,CM)=\dfrac{|2\cdot3\sqrt3/2+\sqrt3\cdot9/2-6\sqrt3|}{\sqrt{2^2+(\sqrt3)^2}}=\dfrac{3\sqrt3}{2\sqrt7}=\dfrac{3\sqrt{21}}{14}\).

Ответ: а) \(\angle ABM=\angle DBC=30^\circ\); б) \(\dfrac{3\sqrt{21}}{14}\).