Пусть многочлен, который нужно найти, обозначим как (P). Тогда имеем уравнение:
(5x^2 - 3xy - y^2 - P = x^2 + 3xy).
Выразим (P) из этого уравнения:
(P = 5x^2 - 3xy - y^2 - (x^2 + 3xy)).
Раскрываем скобки:
(P = 5x^2 - 3xy - y^2 - x^2 - 3xy).
Приводим подобные слагаемые:
(P = (5x^2 - x^2) + (-3xy - 3xy) - y^2 = 4x^2 - 6xy - y^2).
Итоговый ответ: (4x^2 - 6xy - y^2).