3) \(\dfrac{x^2-4x-1}{(x-5)(x-1)}<0\)

Нули числителя найдём по формуле корней квадратного уравнения: \(x=\dfrac{4\pm\sqrt{16+4}}2=2\pm\sqrt5\). Нули знаменателя: \(x=1\) и \(x=5\); они не входят в область определения.

Критические точки расположены так: \(2-\sqrt5<1<2+\sqrt5<5\). Все они простые, поэтому знак дроби при переходе через каждую точку меняется. При \(x>5\) дробь положительна; следовательно, она отрицательна на интервалах \((2-\sqrt5,1)\) и \((2+\sqrt5,5)\). Концы не включаются из-за строгого неравенства и нулей знаменателя.

Ответ: \(x\in(2-\sqrt5,1)\cup(2+\sqrt5,5)\).