Ответ:

Раскроем скобки и учтём, что \((b-a)^2=(a-b)^2=a^2-2ab+b^2\):

\(7a(a-b)-3(b-a)^2=7a^2-7ab-3a^2+6ab-3b^2\).

Приведём подобные слагаемые: \(4a^2-ab-3b^2\).

Ответ: \(4a^2-ab-3b^2\).