Ответ:

а) Подкоренное выражение должно быть неотрицательным: \(-x^2+x+20\geq0\), откуда \(x\in[-4;5]\). Аргумент логарифма должен быть положительным: \(x^2-9>0\), то есть \(x\in(-\infty;-3)\cup(3;+\infty)\). Пересекаем условия.

Ответ для а): \([-4;-3)\cup(3;5]\).

б) Необходимо, чтобы выражение под корнем было неотрицательным и было определено. Так как числитель дроби положителен, знаменатель \(\frac1{x^2}-1\) должен быть положительным. Следовательно, \(x\neq0\) и \(1-x^2>0\), то есть \(0<|x|<1\).

Ответ для б): \((-1;0)\cup(0;1)\).