Ответ:

Разложим разность квадратов и выполним деление дробей:

\(\frac{8a^5}{b-8}:\frac{24a^3}{b^2-64}=\frac{8a^5}{b-8}\cdot\frac{b^2-64}{24a^3}\).

Так как \(b^2-64=(b-8)(b+8)\), получаем:

\(\frac{8a^5}{b-8}\cdot\frac{(b-8)(b+8)}{24a^3}=\frac{a^2(b+8)}{3}\).

Подставим значения: \(\frac{(-\sqrt{10})^2(4+8)}{3}=\frac{10\cdot12}{3}=40\).

Ответ: 40.