Найдем вектор $$\overline{a} - \overline{b}$$:
$$\overline{a} - \overline{b} = \{5-(-2);-1-3\} = \{7;-4\}$$
Вычислим скалярное произведение векторов $$(\overline{a} - \overline{b}) \cdot \overline{a}$$
$$(\overline{a} - \overline{b}) \cdot \overline{a} = 7 \cdot 5 + (-4) \cdot (-1) = 35 + 4 = 39$$
Ответ: 39