Ответ:

а) Вынесем общий множитель и разложим разность квадратов: \(3x(x^2-9)=3x(x-3)(x+3)=0\). Поэтому \(x=0\), \(x=3\) или \(x=-3\).

б) Сделаем замену \(t=x^2\), где \(t\geq0\). Тогда \(t^2+6t-40=0\), то есть \((t+10)(t-4)=0\). Из корней \(t=-10\) и \(t=4\) подходит только \(t=4\). Значит, \(x^2=4\), откуда \(x=\pm2\).

Ответ: а) \(x\in\{-3;0;3\}\); б) \(x\in\{-2;2\}\).