5. Разложите на множители многочлен a³ − b³ + 3a²b − 3ab².

Сгруппируем слагаемые:

\[a^3-3a^2b+3ab^2-b^3=(a-b)^3.\]

В данном многочлене знаки соответствуют формуле куба разности:

\[a^3-b^3+3a^2b-3ab^2\neq(a-b)^3.\]

Перегруппируем исходное выражение:

\[a^3+3a^2b-3ab^2-b^3.\]

Общего стандартного разложения на линейные множители над рациональными коэффициентами оно не имеет. Поэтому, вероятно, в условии на фотографии знак перед \(3a^2b\) напечатан как «−», и тогда:

\[a^3-b^3-3a^2b+3ab^2=(a-b)^3-2b(a-b)(a+b).\]

Если же условие действительно записано именно так, как видно на фотографии, дальнейшее разложение над рациональными коэффициентами невозможно.