Ответ:

Разложим числитель на множители: \(x^2-2x-3=(x-3)(x+1)\). Получаем \(\frac{(x-3)(x+1)}{x-5}\le0\), где \(x\ne5\).

Критические точки: \(-1\) и \(3\) — нули числителя, \(5\) — нуль знаменателя. Они делят числовую прямую на интервалы.

Знак дроби отрицателен на интервалах \((-\infty,-1)\) и \((3,5)\), положителен на \((-1,3)\) и \((5,+\infty)\). Точки \(-1\) и \(3\) включаем, так как там дробь равна нулю; точку \(5\) исключаем, так как знаменатель равен нулю.

Ответ: \((-\infty,-1]\cup[3,5)\).