Т.к. ABCD - квадрат, то диагонали пересекаются под углом 90° и в точке пересечения делятся пополам.
Рассмотрим треугольник ОВМ - прямоугольный, т.к. ОМ перпендикуляр к плоскости квадрата.
$$\tg \angle OBM = \frac{OM}{OB}$$ $$\tg 60^\circ = \sqrt{3} = \frac{OM}{OB}$$ $$\OM = OB\sqrt{3}$$Рассмотрим треугольник ABO - прямоугольный, равнобедренный, т.к. ABCD - квадрат.
$$\AB^2 = AO^2 + OB^2$$AO = OB, значит,
$$\AB^2 = 2OB^2$$ $$\AB = OB\sqrt{2}$$Рассмотрим треугольник ABM.
$$\AM^2 = AB^2 + BM^2$$ $$\AM^2 = (OB\sqrt{2})^2 + (OB\sqrt{3})^2 = 2OB^2 + 3OB^2 = 5OB^2$$ $$\AM = OB\sqrt{5}$$Косинус угла ABM:
$$\cos \angle ABM = \frac{AB}{AM} = \frac{OB\sqrt{2}}{OB\sqrt{5}} = \sqrt{\frac{2}{5}} = \frac{\sqrt{10}}{5}$$Ответ:
Ответ: $$\frac{\sqrt{10}}{5}$$