Ответ:

а)

Положим \(u=\ln x\), тогда \(du=\frac{dx}{x}\). Пределы: при \(x=1\), \(u=0\); при \(x=e\), \(u=1\).

\[\int_1^e\frac{\ln^2x}{x}\,dx=\int_0^1u^2\,du=\left.\frac{u^3}{3}\right|_0^1=\frac13.\]

б)

Положим \(u=1+x\), тогда \(x=u-1\), \(du=dx\). Пределы изменяются от \(4\) до \(9\).

\[\begin{aligned}\int_3^8\frac{x}{\sqrt{1+x}}\,dx&=\int_4^9\frac{u-1}{\sqrt u}\,du\\&=\int_4^9\left(u^{1/2}-u^{-1/2}\right)du\\&=\left.\left(\frac23u^{3/2}-2\sqrt u\right)\right|_4^9\\&=12-\frac43=\frac{32}{3}.\end{aligned}\]

в)

Положим \(u=x^2-1\), тогда \(du=2x\,dx\), а \(x^3dx=x^2x\,dx=\frac{u+1}{2}\,du\). Пределы: от \(0\) до \(8\).

\[\begin{aligned}\int_1^3x^3\sqrt{x^2-1}\,dx&=\frac12\int_0^8(u+1)u^{1/2}\,du\\&=\left.\left(\frac15u^{5/2}+\frac13u^{3/2}\right)\right|_0^8\\&=\frac{128\sqrt2}{5}+\frac{16\sqrt2}{3}=\frac{464\sqrt2}{15}.\end{aligned}\]

г)

Используем \(\sin 6x=2\sin 3x\cos 3x\):

\[\int_0^{\pi/2}\cos^3(3x)\sin(6x)\,dx=2\int_0^{\pi/2}\cos^4(3x)\sin(3x)\,dx.\]

Положим \(u=\cos 3x\), тогда \(du=-3\sin 3x\,dx\). Пределы: от \(1\) до \(0\).

\[2\int_0^{\pi/2}\cos^4(3x)\sin(3x)\,dx=-\frac23\int_1^0u^4du=\frac23\int_0^1u^4du=\frac{2}{15}.\]

Ответ: а) \(\frac13\); б) \(\frac{32}{3}\); в) \(\frac{464\sqrt2}{15}\); г) \(\frac{2}{15}\).