Выполним умножение:
$$(10a^3) \cdot (0.1b^3) = 10 \cdot 0.1 \cdot a^3 \cdot b^3 = 1a^3b^3 = a^3b^3$$
Ответ: $$a^3b^3$$