Ответ:

Разложим квадратный трёхчлен на множители: \(x^2-13x+40=(x-5)(x-8)\).

Корни — 5 и 8. Поскольку коэффициент при \(x^2\) положительный, выражение отрицательно между корнями. Неравенство строгое, поэтому концы не включаются.

Ответ: а) (5;8).