Ответ:

Разложим выражения на множители:

\(5a^3b+5ab^3=5ab(a^2+b^2)\);

\(a^4-b^4=(a^2-b^2)(a^2+b^2)\);

\(3a^2-3b^2=3(a^2-b^2)\).

Заменим деление умножением на обратную дробь:

\[\frac{5ab(a^2+b^2)}{(a^2-b^2)(a^2+b^2)}\cdot\frac{3(a^2-b^2)}{10ab}.\]

Сократим общие множители:

\[\frac{15}{10}=\frac{3}{2}.\]

Ответ: \(\frac{3}{2}\).