(x²−5x)²−2(x²−5x)−24=0

Обозначим выражение в скобках: \(t=x^2-5x\). Тогда получаем \(t^2-2t-24=0\).

Разложим на множители: \((t-6)(t+4)=0\), поэтому \(t=6\) или \(t=-4\).

1) \(x^2-5x=6\): \(x^2-5x-6=0\), откуда \((x-6)(x+1)=0\), значит, \(x=6\) или \(x=-1\).

2) \(x^2-5x=-4\): \(x^2-5x+4=0\), откуда \((x-1)(x-4)=0\), значит, \(x=1\) или \(x=4\).

Ответ: \(x\in\{-1,1,4,6\}\).