Ответ:

а) Критические точки: \(-2\), \(2\) — нули числителя; \(8\) — нуль знаменателя, который исключается. Знак дроби на промежутках:

\[(-\infty,-2):-,\quad(-2,2):+,\quad(2,8):-,\quad(8,+\infty):+.\]

Выбираем промежутки, где дробь отрицательна; точки \(-2\), \(2\) не подходят из-за строгого неравенства, а \(8\) не входит в область определения.

а) Ответ: \((-\infty,-2)\cup(2,8)\).

б) Разложим числитель и знаменатель на множители:

\[\frac{x^2-10x+25}{x^2-4x-12}=\frac{(x-5)^2}{(x-6)(x+2)}.\]

Знаменатель положителен при \(x<-2\) и \(x>6\), отрицателен при \(-2

б) Ответ: \((-\infty,-2)\cup(6,+\infty)\).