Ответ:

Вычислим скалярное произведение векторов, записанных в скобках.

  1. \(\vec a+\vec b=(3+2;\,1+(-6))=(5;-5)\).
  2. \(5\vec a-\vec b=(15;5)-(2;-6)=(13;11)\).
  3. \((\vec a+\vec b)(5\vec a-\vec b)=5\cdot13+(-5)\cdot11=65-55=10\).

Ответ: 10.