Ответ:

Область определения: \(5x+11\ge 0\), то есть \(x\ge -\frac{11}{5}\). На этой области \(x+3>0\), поэтому можно возвести обе части в квадрат.

\(5x+11>(x+3)^2\), откуда \(x^2+x-2<0\). Разложим на множители: \((x+2)(x-1)<0\), значит \(-2

С учётом области определения получаем \(x\in(-2;1)\).

Ответ: \((-2;1)\).