Ответ:
Используем линейность смешанного произведения по каждому аргументу и то, что оно равно нулю, если среди аргументов есть два одинаковых или пропорциональных вектора.
Раскроем произведение по первому аргументу:
\((\vec a-\vec b)(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)=\vec a(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)-\vec b(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)\).
В первом смешанном произведении ненулевой вклад даёт только слагаемое \((-\vec c)\) во втором аргументе и \(2\vec b\) в третьем:
\(\vec a(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)=-2\vec a\vec c\vec b=2\vec a\vec b\vec c\).
Во втором произведении ненулевой вклад даёт только \((-\vec c)\) во втором аргументе и \(\vec a\) в третьем:
\(-\vec b(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)=\vec b\vec c\vec a=\vec a\vec b\vec c\).
Здесь использованы циклическая перестановка аргументов без изменения знака и перестановка двух аргументов с изменением знака. Складывая вклады, получаем \(2\vec a\vec b\vec c+\vec a\vec b\vec c=3\vec a\vec b\vec c\).
Ответ: \((\vec a-\vec b)(\vec a-\vec b-\vec c)(\vec a+2\vec b-\vec c)=3\vec a\vec b\vec c\).
