Ответ:

а) Сделаем замену \(u=x^2+x\). Тогда

\((u-1)(u+2)=40\);

\(u^2+u-42=0\);

\((u-6)(u+7)=0\), поэтому \(u=6\) или \(u=-7\).

При \(u=6\): \(x^2+x-6=0\), откуда \((x-2)(x+3)=0\), значит, \(x=2\) или \(x=-3\).

При \(u=-7\): \(x^2+x+7=0\). Дискриминант равен \(-27\), поэтому действительных корней нет.

б) Сделаем замену \(u=2x^2+x\). Получаем

\((u-1)(u-4)+2=0\);

\(u^2-5u+6=0\);

\((u-2)(u-3)=0\), поэтому \(u=2\) или \(u=3\).

При \(u=2\): \(2x^2+x-2=0\), откуда \(x=\frac{-1\pm\sqrt{17}}{4}\).

При \(u=3\): \(2x^2+x-3=0\); разложение на множители даёт \((2x+3)(x-1)=0\), значит, \(x=-\frac32\) или \(x=1\).

Ответ: а) \(x=-3;\ 2\); б) \(x=\frac{-1-\sqrt{17}}4;\ -\frac32;\ 1;\ \frac{-1+\sqrt{17}}4\).