Решение:
-2ab² + 3a²b + a² - (b² + 5a²b - 2ab²) = -2ab² + 3a²b + a² - b² - 5a²b + 2ab² = -2a²b + a² - b²
Ответ: $$-2a^2b+a^2-b^2$$