Ответ:

Искомое множество состоит из точек, лежащих выше или на прямой \(y=x\) и одновременно ниже или на параболе \(y=x^2-4\). Чтобы такие точки существовали, должно выполняться \(x\le x^2-4\).

Найдём абсциссы пересечения границ:

\[x^2-x-4=0,\qquad x=\frac{1\pm\sqrt{17}}{2}.\]

Поскольку парабола расположена выше прямой при \(x\le\frac{1-\sqrt{17}}2\) или \(x\ge\frac{1+\sqrt{17}}2\), получаем множество решений:

\[\left\{(x,y):x\le\frac{1-\sqrt{17}}2,\ x\le y\le x^2-4\right\}\ \cup\ \left\{(x,y):x\ge\frac{1+\sqrt{17}}2,\ x\le y\le x^2-4\right\}.\]

y=xy=x²−4αβxy

Границы включены, поскольку в системе стоят нестрогие неравенства.