Рассмотрим каждый пункт отдельно.
а) Возвести одночлен 5x²y³ в квадрат – это значит умножить его на себя:
$$ (5x^2y^3)^2 = 5x^2y^3 \cdot 5x^2y^3$$
При умножении одночленов складываем показатели степеней:
$$= 5 \cdot 5 \cdot x^{2+2} \cdot y^{3+3} = 25x^4y^6 $$
б) Возвести одночлен -4ах³ в куб – это значит умножить его на себя трижды:
$$ (-4ax^3)^3 = (-4ax^3) \cdot (-4ax^3) \cdot (-4ax^3) $$
При умножении одночленов складываем показатели степеней:
$$= (-4) \cdot (-4) \cdot (-4) \cdot a^{1+1+1} \cdot x^{3+3+3} = -64a^3x^9$$
Ответ: a) $$25x^4y^6$$, б) $$-64a^3x^9$$