Ответ:

Сначала найдём координаты векторов в скалярном произведении:

\(\vec a-\vec b=(5-3;\,2-(-6))=(2;8)\).

\(5\vec a-\vec b=(25-3;\,10-(-6))=(22;16)\).

Вычислим скалярное произведение: \((2;8)\cdot(22;16)=2\cdot22+8\cdot16=44+128=172\).

Ответ: 172.