12) $$-2ab+3a^2b+a^2- (b^2+5a^2b - 2ab^2) =$$
Раскроем скобки. Если перед скобками стоит знак минус, то знаки в скобках меняем на противоположные.
$$=-2ab+3a^2b+a^2- b^2-5a^2b + 2ab^2 =$$
Приведем подобные слагаемые.
$$=(3a^2b-5a^2b)-2ab+a^2- b^2+ 2ab^2 =-2a^2b-2ab+a^2- b^2+ 2ab^2$$
Ответ: $$-2a^2b-2ab+a^2- b^2+ 2ab^2$$