Ответ:

а) Критические точки: \(-4,-1,1\). По знакам множителей дробь отрицательна на промежутках \((-\infty,-4)\) и \((-1,1)\); точки \(-4,-1,1\) не включаются.

б) Разложим на множители: \[\frac{(x-3)^2}{(x-5)(x+1)}\ge0.\] Точка \(-1\) исключается из ОДЗ, нуль числителя \(3\) включается, а \(5\) исключается. По знакам получаем:

Ответ: а) \((-\infty,-4)\cup(-1,1)\); б) \((-\infty,-1)\cup\{3\}\cup(5,+\infty)\).