Ответ:

а) Используем правило степени произведения и свойства степеней:

\((-a^2b)^5:(ab)^3=-a^{10}b^5:(a^3b^3)=-a^7b^2\).

б) Возводим каждый множитель в степень и перемножаем:

\((-3a^3bc^2)^3\cdot(-2bc^4)=(-27a^9b^3c^6)(-2bc^4)=54a^9b^4c^{10}\).

в) Раскрываем скобки:

\(b(2a-b)+(a-b)^2=2ab-b^2+a^2-2ab+b^2=a^2\).

г) Применяем формулу разности квадратов:

\((5a+b)(b-5a)=b^2-25a^2\), а \((5a+b)^2=25a^2+10ab+b^2\).

\(b^2-25a^2-(25a^2+10ab+b^2)+10ab=-50a^2\).

Ответ: а) \(-a^7b^2\); б) \(54a^9b^4c^{10}\); в) \(a^2\); г) \(-50a^2\).