5. Разложите на множители многочлен \(a^3-b^3+3a^2b-3ab^2\).

Сгруппируем слагаемые и вынесем множитель по формуле разности кубов:

\(a^3+3a^2b-3ab^2-b^3=(a-b)(a^2+4ab+b^2)\).

Ответ: \((a-b)(a^2+4ab+b^2)\).