Ответ:

а) На отрезке \([0;3]\) функция \(y=(x-2)^2\) неотрицательна, поэтому площадь равна:

\[S=\int_0^3(x-2)^2\,dx=\left(\frac{(x-2)^3}{3}\right)\Big|_0^3.\]

\[S=\frac{1^3}{3}-\frac{(-2)^3}{3}=\frac13+\frac83=3.\]

б) Найдём точки пересечения кривых:

\[\frac4x=x^2+4x-1,\qquad x\ne0.\]

\[4=x^3+4x^2-x,\]

\[x^3+4x^2-x-4=0,\]

\[(x+4)(x-1)(x+1)=0.\]

С учётом условия \(x<0\) получаем точки пересечения при \(x=-4\) и \(x=-1\). На отрезке \([-4;-1]\) выше расположена гипербола \(y=\frac4x\), поэтому:

\[S=\int_{-4}^{-1}\left(\frac4x-(x^2+4x-1)\right)dx.\]

\[S=\left(4\ln|x|-\frac{x^3}{3}-2x^2+x\right)\Big|_{-4}^{-1}.\]

\[S=-\frac83-\left(4\ln4-\frac{44}{3}\right)=12-4\ln4=12-8\ln2.\]

Ответ: а) \(S=3\); б) \(S=12-4\ln4=12-8\ln2\).