Ответ:

Найдём векторы в скобках: \(\vec a-\vec b=(2;8)\), \(5\vec a-\vec b=(22;16)\).

Их скалярное произведение: \((2;8)\cdot(22;16)=2\cdot22+8\cdot16=44+128=172\).

Ответ: 172.