Ответ:

а) Раскроем скобки и приведём подобные слагаемые:

\((x+y)(x-y)-x(x-3y)=x^2-y^2-x^2+3xy=3xy-y^2.\)

б) Возведём каждый множитель в степень, затем перемножим:

\((-3m^2n)^2\cdot(-2mn^3)^3=9m^4n^2\cdot(-8m^3n^9)=-72m^7n^{11}.\)

Ответ: а) \(3xy-y^2\); б) \(-72m^7n^{11}\).