Для решения этой задачи необходимо выполнить следующие шаги:
1. Найти вектор $$\vec{a} - \vec{b}$$.
2. Найти вектор $$5\vec{a} - \vec{b}$$.
3. Найти скалярное произведение полученных векторов.
Шаг 1: Найдем вектор $$\vec{a} - \vec{b}$$.
$$\vec{a} - \vec{b} = (5 - 3; 2 - (-6)) = (2; 8)$$
Шаг 2: Найдем вектор $$5\vec{a} - \vec{b}$$.
Сначала найдем $$5\vec{a} = 5 * (5; 2) = (25; 10)$$.
Теперь $$5\vec{a} - \vec{b} = (25 - 3; 10 - (-6)) = (22; 16)$$.
Шаг 3: Найдем скалярное произведение векторов $$\vec{a} - \vec{b}$$ и $$5\vec{a} - \vec{b}$$.
Скалярное произведение двух векторов $$(\vec{x}; \vec{y})$$ и $$(\vec{z}; \vec{w})$$ равно $$\vec{x}*\vec{z} + \vec{y}*\vec{w}$$.
$$(\vec{a} - \vec{b}) \cdot (5\vec{a} - \vec{b}) = (2 * 22) + (8 * 16) = 44 + 128 = 172$$
Ответ: 172