Решение:
$$(\alpha - b -1)(a^2 - b^2) = \alpha^3 - \alpha b^2 - a^2b + b^3 - a^2 + b^2$$
Ответ: $$\alpha^3 - \alpha b^2 - a^2b + b^3 - a^2 + b^2$$