Ответ:

На отрезке \([3;5]\) функция \(y=6x-x^2\) неотрицательна, поэтому площадь равна определённому интегралу:

\[S=\int_{3}^{5}(6x-x^2)\,dx.\]

Вычислим первообразную:

\[\int(6x-x^2)\,dx=3x^2-\frac{x^3}{3}.\]

Тогда

\[S=\left(3x^2-\frac{x^3}{3}\right)\Big|_{3}^{5}=\left(75-\frac{125}{3}\right)-\left(27-9\right)=\frac{100}{3}-18=\frac{46}{3}.\]

Ответ: \(\frac{46}{3}\) кв. ед.