Ответ:

Введём замену \(y=x^2-5x\). Тогда:

\((y+4)(y+6)=100\), то есть \(y^2+10y-76=0\).

Решаем квадратное уравнение: \(y=-5\pm\sqrt{101}\).

Для \(y=-5+\sqrt{101}\) уравнение \(x^2-5x-y=0\) имеет корни \(x=\frac{5\pm\sqrt{5+4\sqrt{101}}}{2}\). Вариант \(y=-5-\sqrt{101}\) не даёт действительных корней: дискриминант равен \(5-4\sqrt{101}<0\).

Ответ: \(x=\frac{5-\sqrt{5+4\sqrt{101}}}{2}\) или \(x=\frac{5+\sqrt{5+4\sqrt{101}}}{2}\).