Ответ:

Раскроем скобки:

\(2x(2x-3y)-(x-y)^2=4x^2-6xy-(x^2-2xy+y^2)\).

Приведём подобные слагаемые:

\(4x^2-6xy-x^2+2xy-y^2=3x^2-4xy-y^2\).

Ответ: \(3x^2-4xy-y^2\).