5) a) (x+3)(x²-x-1);

Краткое пояснение:

Решение:

1. Умножаем каждый член первой скобки на каждый член второй скобки:
   \( (x+3)(x^2-x-1) = x − x − x − 3x^2 + 3x^2 − 3 \)
2. Выполняем умножение:
   \( x^3 - x^2 - x + 3x^2 - 3x - 3 \)
3. Приводим подобные слагаемые:
   \( x^3 + (-x^2 + 3x^2) + (-x - 3x) - 3 \)
4. Получаем окончательный вид выражения:
   \( x^3 + 2x^2 - 4x - 3 \)

Ответ: $$x^3 + 2x^2 - 4x - 3$$