Ответ:
а) Обозначим общий фрагмент через \(t=x^2-3x\). Тогда \((t+1)(t-3)=t^2-2t-3\).
Раскроем скобки и приведём подобные слагаемые: \((x^2-3x)^2-2(x^2-3x)-3=x^4-6x^3+9x^2-2x^2+6x-3=x^4-6x^3+7x^2+6x-3\).
б) Возводим в квадрат сумму и складываем коэффициенты одинаковых степеней:
\((1+x+x^2+x^3)^2=x^6+2x^5+3x^4+4x^3+3x^2+2x+1\).
Ответ: а) \(x^4-6x^3+7x^2+6x-3\); б) \(x^6+2x^5+3x^4+4x^3+3x^2+2x+1\).
