Ответ:

Раскроем скобки: \(x^2+(x-3)^2=x^2+x^2-6x+9=2x^2-6x+9\).

Найдём первообразную и подставим пределы:

\(\int_0^3 (2x^2-6x+9)\,dx=\left[\frac{2x^3}{3}-3x^2+9x\right]_0^3=(18-27+27)-0=18.\)

Ответ: 18.