Ответ:

а)

Найдём производную: \(f'(x)=\frac{x^2}{2}+2x-6\).

Решаем неравенство:

\(\frac{x^2}{2}+2x-6<0\);
\(x^2+4x-12<0\);
\((x+6)(x-2)<0\).

Произведение отрицательно между корнями: \(-6<x<2\).

Ответ: \(x\in(-6;2)\).

б)

Область определения: \(x\ne3\).

\(f'(x)=\left(\frac{x}{x-3}\right)'=\frac{x-3-x}{(x-3)^2}=\frac{-3}{(x-3)^2}\).

При \(x\ne3\) значение производной отрицательно, поэтому

Ответ: \(x\in(-\infty;3)\cup(3;+\infty)\).