Ответ:

а) Область определения: \(x\ne-3\). Разложим числитель на множители: \((x-2)^2(x+2)\). Критические точки: \(-3,-2,2\); при \(x=2\) числитель обращается в нуль, причём знак при переходе через эту точку не меняется, поскольку множитель возведён в квадрат.

Знак дроби отрицателен на промежутках \((-3,-2)\) и \((-2,2)\). Точку \(-2\) включить нельзя, поскольку дробь равна нулю, а требуется строгое неравенство; точку \(2\) также исключаем.

Ответ: \(x\in(-3,-2)\cup(-2,2)\).

б) Разложим числитель и знаменатель: \(x^2-8x+16=(x-4)^2\), \(x^2-3x-10=(x-5)(x+2)\). Область определения: \(x\ne-2,5\). Числитель неотрицателен и равен нулю при \(x=4\). Знаменатель положителен при \(x<-2\) и \(x>5\), отрицателен при \(-2

Ответ: \(x\in(-\infty,-2)\cup\{4\}\cup(5,+\infty)\).