Ответ:

Положим \(t=(x-3)^2\), где \(t\ge 0\). Тогда уравнение принимает вид:

\[t^2-3t-40=0\]

Разложим на множители: \((t-8)(t+5)=0\). Получаем \(t=8\) или \(t=-5\). С учётом условия \(t\ge0\) подходит только \(t=8\).

\[(x-3)^2=8\quad\Rightarrow\quad x-3=\pm2\sqrt2\quad\Rightarrow\quad x=3\pm2\sqrt2.\]

Ответ: \(x=3-2\sqrt2\) или \(x=3+2\sqrt2\).