Ответ:

Пусть сторона квадрата равна \(a\). Тогда площадь квадрата:

\[S_{ABCD}=a^2.\]

Так как отрезок \(BC\) разделён на четыре равные части, то \(BM=\frac{a}{4}\). Треугольник \(ABM\) прямоугольный, поэтому:

\[S_{ABM}=\frac{1}{2}\cdot AB\cdot BM=\frac{1}{2}\cdot a\cdot\frac{a}{4}=\frac{a^2}{8}.\]

Вероятность попадания точки в треугольник равна отношению его площади к площади квадрата:

\[P=\frac{S_{ABM}}{S_{ABCD}}=\frac{a^2/8}{a^2}=\frac{1}{8}.\]

Ответ: \(\frac{1}{8}\).