1) Раскроем скобки и выразим неизвестный многочлен (*):
$$(*) - (5xy - x^2 + 2y^2) = 3x^2 + xy$$
$$(*) = 3x^2 + xy + (5xy - x^2 + 2y^2)$$
$$(*) = 3x^2 + xy + 5xy - x^2 + 2y^2$$
$$(*) = 2x^2 + 6xy + 2y^2$$
2) Выразим неизвестный многочлен (*):
$$5a^3 - a^2 + 3a - 7 + (*) = 2a^2 - 3a$$
$$(*) = 2a^2 - 3a - (5a^3 - a^2 + 3a - 7)$$
$$(*) = 2a^2 - 3a - 5a^3 + a^2 - 3a + 7$$
$$(*) = -5a^3 + 3a^2 - 6a + 7$$
Ответ: 1) 2x^2 + 6xy + 2y^2; 2) -5a^3 + 3a^2 - 6a + 7