Ответ:

Минус перед скобками меняет знаки слагаемых внутри скобок; затем приведём подобные:

\(x^2-3xy+y^2-x^2+y^2=-3xy+2y^2\)

Ответ: \(-3xy+2y^2\).