Ответ:

ОДЗ: \(x^2-1\ge0\), то есть \(x\le-1\) или \(x\ge1\). Так как левая часть неотрицательна, необходимо также \(5-x>0\), то есть \(x<5\).

При этих условиях возводим обе части в квадрат: \(x^2-1<(5-x)^2=x^2-10x+25\).

Сокращая \(x^2\), получаем \(-1<-10x+25\), откуда \(10x<26\), то есть \(x<\frac{13}{5}\).

Пересечение с ОДЗ и условием \(x<5\) даёт \((-\infty,-1]\cup[1,\frac{13}{5})\).

Ответ: \(x\in(-\infty,-1]\cup[1,\frac{13}{5})\).