Ответ:

а) Возводим каждый множитель в скобках в третью степень: \((-3xy^2)^3=-27x^3y^6\).

Умножаем одночлены и складываем показатели одинаковых переменных: \(5x^2y\cdot(-27x^3y^6)=-135x^5y^7\).

б) Выносим общий множитель \((4x+y)\): \((4x+y)^2-(y-4x)(4x+y)=(4x+y)((4x+y)-(y-4x))\).

Упрощаем выражение во второй скобке: \((4x+y)-(y-4x)=8x\). Тогда \(8x(4x+y)=32x^2+8xy\).

Ответ: а) \(-135x^5y^7\); б) \(32x^2+8xy\).