Ответ:

Для координат точек требуется однозначно заданная система координат. Её начало и направления по рисунку надёжно определить нельзя. Независимо от системы координат скалярное произведение можно вычислить по вершинам правильной пирамиды.

Пусть квадрат ABCD имеет центр H, сторона \(a=6\), а высота пирамиды равна \(h\). Тогда \(h^2=6^2-(6/\sqrt2)^2=18\). Выберем временно координаты \(A=(-3,-3,0)\), \(B=(3,-3,0)\), \(C=(3,3,0)\), \(D=(-3,3,0)\), \(S=(0,0,3\sqrt2)\). Так как N — середина SB, \(N=(3/2,-3/2,3\sqrt2/2)\).

Тогда \(\vec{AC}=(6,6,0)\), \(\vec{DN}=(9/2,-9/2,3\sqrt2/2)\), и \(\vec{AC}\cdot\vec{DN}=6\cdot9/2+6\cdot(-9/2)=0\).

Ответ: \(\vec{AC}\cdot\vec{DN}=0\); координаты в требуемой системе нельзя указать без её уточнения.