Ответ:

Пусть ребро куба равно \(a\). Выберем координаты: \(A=(0,0,0)\), \(B=(a,0,0)\), \(C=(a,a,0)\), \(D=(0,a,0)\), а вершины верхней грани имеют третью координату \(a\).

а) В плоскости \(BA_1C_1\) возьмём направляющие векторы \(\overrightarrow{BA_1}=(-a,0,a)\) и \(\overrightarrow{BC_1}=(0,a,a)\). Вектор, перпендикулярный этой плоскости, можно получить их векторным произведением: \(\overrightarrow{BA_1}\times\overrightarrow{BC_1}=(-a^2,a^2,-a^2)\). Направляющий вектор прямой \(B_1D\) равен \(\overrightarrow{B_1D}=(-a,a,-a)\), то есть параллелен нормали плоскости. Следовательно, \(B_1D\perp(BA_1C_1)\).

б) Для плоскости \(BA_1D_1\) возьмём векторы \(\overrightarrow{BA_1}=(-a,0,a)\) и \(\overrightarrow{BD_1}=(-a,a,a)\). Её нормаль пропорциональна \((-1,0,-1)\), а нормаль плоскости \(BA_1C_1\) пропорциональна \((-1,1,-1)\). Косинус угла между плоскостями равен косинусу острого угла между их нормалями:

\[\cos\varphi=\frac{|(-1,1,-1)\cdot(-1,0,-1)|}{\sqrt3\,\sqrt2}=\frac{2}{\sqrt6}=\sqrt{\frac23}.\]

Ответ: а) \(B_1D\perp(BA_1C_1)\); б) \(\cos\varphi=\sqrt{\frac23}\).