Ответ:

а) Нули числителя: \(x=-2\) и \(x=2\); при \(x=2\) множитель имеет чётную кратность. Знаменатель обращается в нуль при \(x=3\), это значение исключается. На интервале \((-2,3)\) дробь отрицательна, но при \(x=2\) она равна нулю. Поэтому решение: \((-2,2)\cup(2,3)\).

б) Разложим на множители:
\(\frac{x^2-10x+25}{x^2-4x-12}=\frac{(x-5)^2}{(x-6)(x+2)}\).

Знаменатель равен нулю при \(x=-2\) и \(x=6\), эти точки исключаются. Квадрат числителя неотрицателен и равен нулю при \(x=5\); знаменатель положителен вне интервала \((-2,6)\) и отрицателен внутри него. С учётом нуля числителя получаем \((-,-2)\cup\{5\}\cup(6,+)\).

Ответ: а) \((-2,2)\cup(2,3)\); б) \((-,-2)\cup\{5\}\cup(6,+)\).