Ответ:

Возводим каждый множитель в степень: \((2a^3b)^3=8a^9b^3\).

Умножаем одночлены: \(8a^9b^3\cdot(-5ab^2)=-40a^{10}b^5\).

Ответ: \(-40a^{10}b^5\).