10. ABCA₁B₁C₁ — прямая призма, AA₁C₁C — квадрат. Найдите скалярное произведение векторов AB₁ и CA₁.

Пусть \(\overrightarrow{CA}=\mathbf u\), \(\overrightarrow{CB}=\mathbf v\), а \(\overrightarrow{CC_1}=\mathbf w\). Условие о квадрате AA₁C₁C даёт \(\mathbf u\perp\mathbf w\) и \(|\mathbf u|=|\mathbf w|\). Векторы искомые: \(\overrightarrow{AB_1}=\mathbf v-\mathbf u+\mathbf w\), \(\overrightarrow{CA_1}=\mathbf u+\mathbf w\). Их произведение содержит \(\mathbf v\cdot\mathbf u\), которое условием не задано.

Кроме того, даже для треугольной призмы без дополнительных сведений о треугольнике ABC значение скалярного произведения не определяется однозначно. Нужны дополнительные данные, например длины и угол в основании или условие, что основание — прямоугольный треугольник.