Ответ:

Область определения требует \(x\ge3\). Так как левая часть неотрицательна, для строгого неравенства необходимо \(x-5>0\), то есть \(x>5\). Возводим обе части в квадрат: \(x-3<(x-5)^2\), откуда \((x-4)(x-7)>0\). С учётом \(x>5\) получаем \(x>7\).

Ответ: \(x\in(7;+\infty)\).