Ответ:

Раскроем скобки:

\((x+y)^2=x^2+2xy+y^2\).

\(2x(2x+3y)=4x^2+6xy\).

Тогда \(x^2+2xy+y^2-4x^2-6xy=y^2-3x^2-4xy\).

Ответ: \(y^2-3x^2-4xy\).