Пусть начало координат находится в точке $$A$$, и оси направлены вдоль ребер $$AB$$, $$AD$$, $$AA_1$$. Тогда координаты точек будут следующими:
$$A(0, 0, 0)$$, $$B(4, 0, 0)$$, $$D(0, 4, 0)$$, $$A_1(0, 0, 4)$$, $$B_1(4, 0, 4)$$, $$C_1(4, 4, 4)$$, $$D_1(0, 4, 4)$$.
Так как $$B_1M:MC_1 = 3:1$$, то $$M(\frac{3\cdot 4 + 1\cdot 4}{3+1}, \frac{3\cdot 4 + 1\cdot 0}{3+1}, \frac{3\cdot 4 + 1\cdot 4}{3+1}) = M(4, 3, 4)$$.
Точка $$E$$ – середина $$A_1D_1$$, поэтому $$E(\frac{0+0}{2}, \frac{0+4}{2}, \frac{4+4}{2}) = E(0, 2, 4)$$.
Точка $$K$$ – середина $$AB$$, поэтому $$K(\frac{0+4}{2}, \frac{0+0}{2}, \frac{0+0}{2}) = K(2, 0, 0)$$.
Теперь найдем векторы $$\vec{KE}$$ и $$\vec{KM}$$:
$$\vec{KE} = E - K = (0-2, 2-0, 4-0) = (-2, 2, 4)$$
$$\vec{KM} = M - K = (4-2, 3-0, 4-0) = (2, 3, 4)$$
Вектор нормали $$\vec{n}$$ к плоскости $$EKM$$ равен векторному произведению векторов $$\vec{KE}$$ и $$\vec{KM}$$:
$$\vec{n} = \vec{KE} \times \vec{KM} = \begin{vmatrix} \vec{i} & \vec{j} & \vec{k} \\ -2 & 2 & 4 \\ 2 & 3 & 4 \end{vmatrix} = \vec{i}((2)(4) - (4)(3)) - \vec{j}((-2)(4) - (4)(2)) + \vec{k}((-2)(3) - (2)(2)) = \vec{i}(8 - 12) - \vec{j}(-8 - 8) + \vec{k}(-6 - 4) = -4\vec{i} + 16\vec{j} - 10\vec{k}$$
Итак, $$\vec{n} = (-4, 16, -10)$$.
Длина вектора $$\vec{n}$$ равна:
$$|\vec{n}| = \sqrt{(-4)^2 + (16)^2 + (-10)^2} = \sqrt{16 + 256 + 100} = \sqrt{372}$$
Квадрат длины вектора равен:
$$(\sqrt{372})^2 = 372$$
Ответ: 372