Ответ:

а) Разложим на множители: \((x^2-16)(x^2-9x+20)=(x-4)^2(x+4)(x-5)\). Корни: \(-4\), \(4\) (двукратный), \(5\). Знак произведения отрицателен на \((-4,5)\), кроме того, выражение равно нулю при корнях.

Учитывая двукратный корень \(4\), получаем \((-\infty,-4]\cup\{4\}\cup[5,+\infty)\).

б) Разложим числитель и знаменатель: \(\dfrac{x^2+4x+4}{x^2-9x+8}=\dfrac{(x+2)^2}{(x-1)(x-8)}\), где \(x\ne1,8\). Дробь отрицательна при \(1<x<8\), а числитель обращается в нуль при \(x=-2\), который допустим.

Ответ: а) \((-\infty,-4]\cup\{4\}\cup[5,+\infty)\); б) \(\{-2\}\cup(1,8)\).