Ответ:

а)

Раскроем скобки:

\((3x+y)(2x-5y)=6x^2-15xy+2xy-5y^2=6x^2-13xy-5y^2\).

\(6(x-y)^2=6(x^2-2xy+y^2)=6x^2-12xy+6y^2\).

Тогда:

\(6x^2-13xy-5y^2-(6x^2-12xy+6y^2)=-xy-11y^2\).

Вынесем общий множитель:

\(-xy-11y^2=-y(x+11y)\).

б)

Возведём одночлены в степени:

\((-2x^3y)^3=-8x^9y^3\),

\((-5x^2y)^2=25x^4y^2\).

Перемножим:

\(-8x^9y^3\cdot25x^4y^2=-200x^{13}y^5\).

Ответ: а) \(-y(x+11y)\); б) \(-200x^{13}y^5\).