Сначала раскроем скобки, умножив каждое слагаемое из первой скобки на каждое слагаемое из второй скобки.
\( (a^2 + 5b)(ab - b^2) = a^2 \cdot ab + a^2 \cdot (-b^2) + 5b \cdot ab + 5b \cdot (-b^2) \)
\( = a^3b - a^2b^2 + 5ab^2 - 5b^3 \)
Теперь добавим первое слагаемое:
\( 5b^3 + (a^3b - a^2b^2 + 5ab^2 - 5b^3) = 5b^3 + a^3b - a^2b^2 + 5ab^2 - 5b^3 \)
Приведём подобные слагаемые:
\( (5b^3 - 5b^3) + a^3b - a^2b^2 + 5ab^2 = 0 + a^3b - a^2b^2 + 5ab^2 \)
\( = a^3b - a^2b^2 + 5ab^2 \)
Ответ: a³b - a²b² + 5ab²