Ответ:
а) Критические точки: \(-2\), \(2\) — нули числителя, \(8\) — нуль знаменателя. На интервалах знак дроби меняется при переходе через каждую из этих точек. Дробь отрицательна на \((-,-2)\) и \((2,8)\). Точки \(-2\) и \(2\) не подходят из-за строгого неравенства, а \(8\) не входит в область определения.
б) Разложим числитель и знаменатель на множители:
\(\frac{x^2-10x+25}{x^2-4x-12}=\frac{(x-5)^2}{(x-6)(x+2)}\).
Знаменатель положителен при \(x<-2\) или \(x>6\), а числитель неотрицателен и обращается в ноль при \(x=5\). Для строгого неравенства подходят интервалы, где дробь положительна: \((-,-2)\) и \((6,+)\). Точки \(-2\) и \(6\) исключены из области определения.
Ответ: а) \((-,-2)\cup(2,8)\); б) \((-,-2)\cup(6,+)\).
