Ответ:

  1. Запишем выражение через степени:

    \(\sqrt[3]{a^5\sqrt{b\sqrt[4]{a^{-1}}}}=a^{5/3}b^{1/6}a^{-1/48}=a^{79/48}b^{1/6}\).

    Знаменатель: \(\left(a^2\sqrt[5]{ab^3}\right)^2=a^4a^{2/5}b^{6/5}=a^{22/5}b^{6/5}\).

    Вычитаем показатели степеней: \(a^{79/48-22/5}b^{1/6-6/5}=a^{-671/240}b^{-31/30}\).

    Ответ: \(\dfrac{1}{a^{671/240}b^{31/30}}\).

  2. Преобразуем числитель: \(\sqrt{5\sqrt[3]{5}}=5^{(1+1/3)/2}=5^{2/3}\).

    В скобках: \(\sqrt[3]{5\sqrt5}=5^{1/2}\), а \(\sqrt[4]{5\sqrt[3]{5}}=5^{1/3}\). Их произведение равно \(5^{5/6}\), после возведения в степень \(1/2\) получаем \(5^{5/12}\).

    Делим степени: \(5^{2/3}/5^{5/12}=5^{1/4}\).

    Ответ: \(\sqrt[4]{5}\).