Ответ:

Пусть сторона квадрата равна \(s\), а \(A=(0,0)\), \(B=(s,0)\), \(D=(0,s)\). Так как \(AMD\) — равносторонний треугольник внутри квадрата, вершина \(M\) имеет координаты \((\sqrt3s/2,s/2)\).

Векторы \(\overrightarrow{MA}=(-\sqrt3s/2,-s/2)\) и \(\overrightarrow{MB}=(s-\sqrt3s/2,-s/2)\). Из формулы скалярного произведения получается \(\cos\angle AMB=\cos75°\).

Ответ: 75°.