Ответ:

Сначала учитываем область определения: x − 3 ≥ 0, то есть x ≥ 3.

Левая часть неотрицательна. Поэтому для выполнения строгого неравенства необходимо x − 5 > 0, то есть x > 5.

При x > 5 можно возвести обе части в квадрат:

x − 3 < (x − 5)2;

x − 3 < x2 − 10x + 25;

0 < x2 − 11x + 28;

0 < (x − 4)(x − 7).

Произведение положительно при x < 4 или x > 7. С учётом условия x > 5 остаётся x > 7.

Ответ: x ∈ (7; +∞).