Сначала найдём сумму векторов \( \vec{a} + \vec{b} \) и разность векторов \( 5\vec{a} - \vec{b} \).
1. Найдём сумму векторов \( \vec{a} + \vec{b} \):
\( \vec{a} + \vec{b} = (3+2; 1+(-6)) = (5; -5) \).
2. Найдём вектор \( 5\vec{a} \):
\( 5\vec{a} = (5 · 3; 5 · 1) = (15; 5) \).
3. Найдём разность векторов \( 5\vec{a} - \vec{b} \):
\( 5\vec{a} - \vec{b} = (15-2; 5-(-6)) = (13; 11) \).
4. Теперь найдём скалярное произведение векторов \( (\vec{a}+\vec{b}) \) и \( (5\vec{a}-\vec{b}) \):
Скалярное произведение двух векторов \( (x_1; y_1) \) и \( (x_2; y_2) \) равно \( x_1x_2 + y_1y_2 \).
\( (\vec{a}+\vec{b})(5\vec{a}-\vec{b}) = (5; -5) · (13; 11) = 5 · 13 + (-5) · 11 \).
\( 5 · 13 = 65 \).
\( -5 · 11 = -55 \).
\( 65 + (-55) = 65 - 55 = 10 \).
Ответ: 10.