5x(x−3) > x²−3

Раскроем скобки и перенесём всё в левую часть:

\(5x^2-15x>x^2-3\), поэтому \(4x^2-15x+3>0\).

Найдём корни соответствующего квадратного трёхчлена: \(D=(-15)^2-4\cdot4\cdot3=177\), \(x_{1,2}=\frac{15\pm\sqrt{177}}{8}\). Коэффициент при \(x^2\) положительный, поэтому трёхчлен положителен вне промежутка между корнями.

Ответ: \(x<\frac{15-\sqrt{177}}{8}\) или \(x>\frac{15+\sqrt{177}}{8}\).