Ответ:

а) Возводим одночлен в четвёртую степень:

\((-2x^3y)^4=16x^{12}y^4\).

Умножаем на \(5xy^3\):

\(5xy^3\cdot16x^{12}y^4=80x^{13}y^7\).

б) Выносим общий множитель \(2y-3x\):

\((2y-3x)^2-(3x+2y)(2y-3x)=(2y-3x)((2y-3x)-(3x+2y))\).

\(=(2y-3x)(-6x)=18x^2-12xy\).

Ответ: а) \(80x^{13}y^7\); б) \(18x^2-12xy\).