Решение:
Найдем координаты векторов:
A(1; 1), B(2; 7)
C(5; 1), D(8; 2)
$$\vec{AB} = (2-1; 7-1) = (1; 6)$$ $$\vec{CD} = (8-5; 2-1) = (3; 1)$$Скалярное произведение векторов:
$$\vec{AB} \cdot \vec{CD} = x_1 \cdot x_2 + y_1 \cdot y_2 = 1 \cdot 3 + 6 \cdot 1 = 3 + 6 = 9$$Ответ: 9