Ответ:

Требуются \(x^2-1\geq0\) и \(5-x>0\), поэтому \(x\leq-1\) или \(1\leq x<5\).

Возводим обе части в квадрат: \(x^2-1<(5-x)^2\). После сокращения \(10x<26\), то есть \(x<\frac{13}{5}\). Пересечение с областью допустимых значений даёт:

Ответ: \(x\in(-\infty;-1]\cup[1;\frac{13}{5})\).