Ответ:

Разложим числитель и знаменатель:
\[x^4-8x^2-9=(x^2-9)(x^2+1),\]
\[x^8-1=(x^4-1)(x^4+1).\]

Множители \(x^2+1\) и \(x^4+1\) всегда положительны. Поэтому знак дроби определяется выражением
\[\frac{x^2-9}{x^4-1}.\]

Критические точки: \(-3,-1,1,3\), причём \(x=\pm1\) исключаются из области определения. Дробь отрицательна на \((-3,-1)\) и \((1,3)\).

Ответ: \(x\in(-3,-1)\cup(1,3)\).