Ответ:

Подкоренное выражение должно быть неотрицательным: \(x^2-x-3\geq0\). Кроме того, поскольку обе части неотрицательны, можно возвести неравенство в квадрат: \(x^2-x-3\leq9\), то есть \(x^2-x-12\leq0\). Последнее неравенство даёт \(-3\leq x\leq4\).

Корни уравнения \(x^2-x-3=0\) равны \(\frac{1-\sqrt{13}}2\) и \(\frac{1+\sqrt{13}}2\). С учётом области определения пересекаем промежуток между этими корнями с \([-3;4]\).

Ответ: \(\left[-3;\frac{1-\sqrt{13}}2\right]\cup\left[\frac{1+\sqrt{13}}2;4\right]\).