а) Преобразуем смешанные дроби в неправильные:
$$-2\frac{1}{2} = -\frac{5}{2}$$
$$3\frac{1}{5} = \frac{16}{5}$$
Тогда:
$$\left(-\frac{5}{2} a^3b\right)^4 \cdot \frac{16}{5} a^8b^5 = \left(-\frac{5}{2}\right)^4 \cdot (a^3)^4 \cdot b^4 \cdot \frac{16}{5} a^8b^5 = \frac{625}{16} a^{12}b^4 \cdot \frac{16}{5} a^8b^5 = \frac{625 \cdot 16}{16 \cdot 5} a^{12+8}b^{4+5} = 125a^{20}b^9$$.
Ответ: $$125a^{20}b^9$$
б) $$x^{2n} : (x^{n-1})^2 = x^{2n} : x^{2(n-1)} = x^{2n} : x^{2n-2} = x^{2n - (2n-2)} = x^{2n - 2n + 2} = x^2$$.
Ответ: $$x^2$$