Ответ:

Область определения: \(5x+11\ge 0\), поэтому \(x\ge-\frac{11}{5}\). При таких значениях \(x+3>0\), поэтому можно возвести неравенство в квадрат:

\(5x+11>(x+3)^2\).

Раскрываем скобки:

\(5x+11>x^2+6x+9\), или \(x^2+x-2<0\).

Разложение на множители:

\((x+2)(x-1)<0\), откуда \(-2

Это множество удовлетворяет области определения.

Ответ: \(x\in(-2;1)\).