К сожалению, вектор $$\vec{c}$$ не задан, поэтому невозможно вычислить $$\vec{a}\cdot\vec{c}$$ и $$\vec{b}\cdot\vec{c}$$.
Вычислим $$\vec{a}\cdot\vec{b}$$:
$$\vec{a}\cdot\vec{b} = 5\cdot(-1) + 6\cdot1 + 2\cdot1 = -5 + 6 + 2 = 3$$
Вычислим $$\vec{a}^2$$:
$$\vec{a}^2 = \vec{a}\cdot\vec{a} = 5\cdot5 + 6\cdot6 + 2\cdot2 = 25 + 36 + 4 = 65$$
Вычислим $$\vec{b}^2$$:
$$\vec{b}^2 = \vec{b}\cdot\vec{b} = (-1)\cdot(-1) + 1\cdot1 + 1\cdot1 = 1 + 1 + 1 = 3$$
Ответ: $$\vec{a}\cdot\vec{b} = 3$$, $$\vec{a}^2 = 65$$, $$\vec{b}^2 = 3$$. Невозможно вычислить $$\vec{a}\cdot\vec{c}$$ и $$\vec{b}\cdot\vec{c}$$, т.к. вектор $$\vec{c}$$ не задан.