Ответ:

Сначала найдём координаты векторов:

\(\vec a-\vec b=(5-3;\,2-(-6))=(2;8)\).

\(5\vec a-\vec b=(25;10)-(3;-6)=(22;16)\).

Скалярное произведение равно сумме произведений соответствующих координат:

\((2;8)\cdot(22;16)=2\cdot22+8\cdot16=44+128=172\).

Ответ: 172.