Решение:
$$ (a+b)(a^2 +5ab-b^2) = a^3 + 5a^2b - ab^2 + a^2b + 5ab^2 - b^3 = a^3 + 6a^2b + 4ab^2 - b^3$$
Ответ:$$a^3 + 6a^2b + 4ab^2 - b^3$$