Ответ:

Разложим квадратный трёхчлен на множители:

\(x^2-3x-40=(x-8)(x+5)\).

Корни: \(x_1=-5\), \(x_2=8\).

Коэффициент при \(x^2\) положительный, поэтому произведение положительно вне промежутка между корнями:

\(x\in(-\infty;-5)\cup(8;+\infty)\).

Ответ: \(x\in(-\infty;-5)\cup(8;+\infty)\).