5. При каком значении переменной m многочлен, тождественно равный произведению (x − p)(x³ + x² − x − 1): а) имеет коэффициент при x³, равный −1; б) имеет коэффициент при x², равный нулю?

Раскроем скобки: \((x-p)(x^3+x^2-x-1)=x^4+(1-p)x^3-(1+p)x^2+(p-1)x+p\).

1. а) Коэффициент при \(x^3\) равен \(1-p\). Условие: \(1-p=-1\), откуда \(p=2\).
2. б) Коэффициент при \(x^2\) равен \(-(1+p)\). Условие: \(-(1+p)=0\), откуда \(p=-1\).

Ответ: а) \(p=2\); б) \(p=-1\).