Ответ:

Начало условия с описанием точек и фигуры обрезано, поэтому нельзя однозначно выразить указанные векторы через a и b. Пришлите верхнюю часть задания целиком.