Ответ:
Пусть сторона квадрата равна \(s\). Возьмём координаты \(A=(0,0)\), \(B=(s,0)\), \(D=(0,s)\). Поскольку \(AMD\) — равносторонний треугольник, внутренняя точка \(M\) имеет координаты \(\left(\frac{\sqrt3s}{2},\frac{s}{2}\right)\).
Векторы \(\overrightarrow{MA}=\left(-\frac{\sqrt3s}{2},-\frac{s}{2}\right)\) и \(\overrightarrow{MB}=\left(s-\frac{\sqrt3s}{2},-\frac{s}{2}\right)\). Их скалярное произведение равно \(s^2\left(1-\frac{\sqrt3}{2}\right)\), а длины: \(MA=s\), \(MB=s\sqrt{2-\sqrt3}\). Поэтому \(\cos\angle AMB=\frac{1-\sqrt3/2}{\sqrt{2-\sqrt3}}=\frac{\sqrt{2-\sqrt3}}{2}\). Это косинус угла \(75^\circ\).
Ответ: \(\angle AMB=75^\circ\).
