Ответ:

а)

\[(2a-3b)(5a+b)-10(a+b)^2=10a^2-13ab-3b^2-10a^2-20ab-10b^2=-33ab-13b^2.\]

Вынесем общий множитель:

\[-33ab-13b^2=-b(33a+13b).\]

б)

\[(-3x^2y^3)^3=-27x^6y^9,\qquad (-2x^5y)^2=4x^{10}y^2.\]

\[-27x^6y^9\cdot4x^{10}y^2=-108x^{16}y^{11}.\]

Ответ: а) \(-b(33a+13b)\); б) \(-108x^{16}y^{11}\).