Ответ:

Сгруппируем выражение:

\[ma-mb-a^2+2ab-b^2=m(a-b)-(a^2-2ab+b^2).\]

Так как \(a^2-2ab+b^2=(a-b)^2\), получаем:

\[m(a-b)-(a-b)^2=(a-b)(m-a+b).\]

Ответ: \((a-b)(m-a+b)\).