Ответ:

Возведём в квадрат каждый множитель: \((5a^3b)^2=5^2\cdot(a^3)^2\cdot b^2\).

Используем правило степени степени: \((a^3)^2=a^6\). Следовательно, \((5a^3b)^2=25a^6b^2\).

Ответ: \(25a^6b^2\).