Ответ:

Возведём в квадрат числитель и знаменатель; квадрат отрицательного числа положителен:

\(\left(-\frac{3a^3}{4b^5}\right)^2=\frac{(-3a^3)^2}{(4b^5)^2}=\frac{9a^6}{16b^{10}}\).

Ответ: вариант 2, \(\frac{9a^6}{16b^{10}}\).