Ответ:

а) Сделаем замену \(y=x^2\). Тогда \(y^2-5y-36=0\), откуда \((y-9)(y+4)=0\). Следовательно, \(y=9\) или \(y=-4\). Так как \(y=x^2\geq 0\), случай \(y=-4\) решений не даёт. Из \(x^2=9\) получаем \(x=\pm3\).

б) Сделаем замену \(t=x^2+3x\). Получаем \(t^2-2t-8=0\), то есть \((t-4)(t+2)=0\). Значит, \(t=4\) или \(t=-2\).

При \(t=4\): \(x^2+3x-4=0\), \((x+4)(x-1)=0\), поэтому \(x=-4\) или \(x=1\).

При \(t=-2\): \(x^2+3x+2=0\), \((x+1)(x+2)=0\), поэтому \(x=-1\) или \(x=-2\).

Ответ: а) \(x=\pm3\); б) \(x\in\{-4,-2,-1,1\}\).