Ответ:

а) Критические точки: \(-4\) (знаменатель равен нулю), \(-1\) и \(1\) (числитель равен нулю). Знак дроби отрицательный на промежутках \((-,-4)\) и \((-1,1)\). Граничные точки не включаются.

Ответ: \(x\in(-\infty,-4)\cup(-1,1)\).

б) Разложим числитель и знаменатель на множители:

\(\dfrac{x^2-6x+9}{x^2-4x-5}=\dfrac{(x-3)^2}{(x-5)(x+1)}\).

Область допустимых значений: \(x\ne -1\), \(x\ne 5\). Числитель неотрицателен и обращается в ноль при \(x=3\). Знаменатель положителен при \(x<-1\) и \(x>5\), отрицателен при \(-1

Ответ: \(x\in(-\infty,-1)\cup\{3\}\cup(5,\infty)\).