Ответ:

Раскроем скобки. Перед последней скобкой стоит минус, поэтому изменим знаки её слагаемых:

\((3a^2-2ab+b^2)+(a^2+5ab-3b^2)-(4a^2-ab+2b^2)\)

\(=3a^2-2ab+b^2+a^2+5ab-3b^2-4a^2+ab-2b^2.\)

Соберём подобные слагаемые:

\((3+1-4)a^2+(-2+5+1)ab+(1-3-2)b^2=4ab-4b^2.\)

Ответ: \(4ab-4b^2\).