Ответ:

а) Представим смешанные числа в виде неправильных дробей:

\((-2\frac{1}{2}a^3b)^4\cdot3\frac{1}{5}a^8b^5=\left(-\frac{5}{2}\right)^4a^{12}b^4\cdot\frac{16}{5}a^8b^5\).

\(\left(-\frac{5}{2}\right)^4\cdot\frac{16}{5}=\frac{625}{16}\cdot\frac{16}{5}=125\).

Следовательно, результат: \(125a^{20}b^9\).

б) \((-2xy^4)^4=(-2)^4x^4(y^4)^4=16x^4y^{16}\).

Ответ: а) \(125a^{20}b^9\); б) \(16x^4y^{16}\).