2. Исследуйте функцию на выпуклость:

Решение:

Для исследования функции \( f(x) = x^4 - 4x^3 - 18x^2 + x - 3 \) на выпуклость найдём вторую производную.

1. Найдём первую производную: \( f'(x) = 4x^3 - 12x^2 - 36x + 1 \).
2. Найдём вторую производную: \( f''(x) = 12x^2 - 24x - 36 \).
3. Приравняем вторую производную к нулю, чтобы найти точки перегиба: \( 12x^2 - 24x - 36 = 0 \).
   Разделим обе части на 12: \( x^2 - 2x - 3 = 0 \).
   Решим квадратное уравнение: \( D = (-2)^2 - 4 \cdot 1 \cdot (-3) = 4 + 12 = 16 \).
   \( x_1 = \frac{2 + \sqrt{16}}{2} = \frac{2+4}{2} = 3 \).
   \( x_2 = \frac{2 - \sqrt{16}}{2} = \frac{2-4}{2} = -1 \).
4. Определим знаки второй производной на интервалах \( (-\infty, -1) \), \( (-1, 3) \), \( (3, \infty) \).
   На интервале \( (-\infty, -1) \) (например, при \( x = -2 \)): \( f''(-2) = 12(-2)^2 - 24(-2) - 36 = 12(4) + 48 - 36 = 48 + 48 - 36 = 60 > 0 \). Функция выпукла вверх.
   На интервале \( (-1, 3) \) (например, при \( x = 0 \)): \( f''(0) = 12(0)^2 - 24(0) - 36 = -36 < 0 \). Функция выпукла вниз.
   На интервале \( (3, \infty) \) (например, при \( x = 4 \)): \( f''(4) = 12(4)^2 - 24(4) - 36 = 12(16) - 96 - 36 = 192 - 96 - 36 = 60 > 0 \). Функция выпукла вверх.

Ответ: Функция выпукла вверх на интервалах \( (-\infty, -1) \) и \( (3, \infty) \). Функция выпукла вниз на интервале \( (-1, 3) \).