Ответ:

а) Критические точки: \(-5\) (знаменатель равен нулю), \(3\) и \(4\) (числитель равен нулю). Проверяем знаки на промежутках. Выражение отрицательно на \((-infty,-5)\) и \((3,4)\). Точки \(-5,3,4\) не включаются.

Ответ а): \((-infty,-5)\cup(3,4)\).

б) Разложим на множители: \(\frac{(x-4)^2}{(x-5)(x+2)}>0\). Критические точки: \(-2\) и \(5\) — знаменатель равен нулю; \(4\) — числитель равен нулю. Дробь положительна при \(x<-2\) и \(x>5\). Точки \(-2\) и \(5\) исключаются из области определения.

Ответ б): \((-infty,-2)\cup(5,+infty)\).