Ответ:

Разложим числитель и знаменатель дроби на множители:

\((5ab+a^{-3})^2=a^{-6}(5a^4b+1)^2\), а \(5a^4b^{-2}+b^{-3}=b^{-3}(5a^4b+1)\).

Сократим общий множитель \(5a^4b+1\): \(\frac{a^{-6}(5a^4b+1)^2}{b^{-3}(5a^4b+1)}=a^{-6}b^3(5a^4b+1)=5a^{-2}b^4+a^{-6}b^3\).

Вычтем последнее слагаемое исходного выражения: \(5a^{-2}b^4+a^{-6}b^3-5a^{-2}b^4=a^{-6}b^3\).

Ответ: \(\frac{b^3}{a^6}\).