Ответ:

Положим \(t=x^2-5x+20\). Тогда \(x^2-5x+16=t-4\), и уравнение принимает вид \(t-4-3\sqrt t=0\). Обозначим \(y=\sqrt t\), где \(y\ge0\). Получаем \(y^2-3y-4=0\), то есть \((y-4)(y+1)=0\). С учётом \(y\ge0\), \(y=4\), поэтому \(t=16\).

Тогда \(x^2-5x+20=16\), или \(x^2-5x+4=0\). Разложим: \((x-1)(x-4)=0\), откуда \(x=1\) или \(x=4\). Оба значения удовлетворяют исходному уравнению.

Ответ: \(x=1;\ 4\).