a) Преобразуем смешанные дроби в неправильные, возведем в степень, затем упростим:
$$(-2 \frac{1}{2} a^3b)^4 \cdot 3 \frac{1}{5} a^8b^5 = (-\frac{5}{2} a^3b)^4 \cdot \frac{16}{5} a^8b^5 = \frac{5^4}{2^4} a^{3 \cdot 4} b^4 \cdot \frac{16}{5} a^8b^5 = \frac{625}{16} \cdot \frac{16}{5} a^{12} b^4 \cdot a^8b^5 = \frac{625}{5} a^{12+8} b^{4+5} = 125 a^{20} b^9$$
Ответ: $$125 a^{20} b^9$$
б) Упростим выражение:
$$x^{2n} : (x^{n-1})^2 = \frac{x^{2n}}{x^{2(n-1)}} = \frac{x^{2n}}{x^{2n-2}} = x^{2n - (2n-2)} = x^{2n - 2n + 2} = x^2$$
Ответ: $$x^2$$