Ответ:

Сделаем замену \(x=3\sec t\). При \(x=3\) получаем \(t=0\), а при \(x=6\) — \(t=\frac{\pi}{3}\).

Тогда \(\sqrt{x^2-9}=3\tan t\), \(dx=3\sec t\,dt\), поэтому

\[\int_{3}^{6}\frac{\sqrt{x^2-9}}{x^4}\,dx=\frac{1}{9}\int_{0}^{\pi/3}\sin^2 t\cos t\,dt.\]

Положим \(u=\sin t\), тогда \(du=\cos t\,dt\):

\[\frac{1}{9}\int_{0}^{\pi/3}\sin^2 t\cos t\,dt=\frac{1}{9}\left[\frac{\sin^3 t}{3}\right]_{0}^{\pi/3}=\frac{1}{27}\left(\frac{\sqrt{3}}{2}\right)^3=\frac{\sqrt{3}}{72}.\]

Ответ: \(\frac{\sqrt{3}}{72}\).