Раскроем скобки:
$$ -5a^2b(4ab - 3a^2b + ab^2) = -5a^2b \cdot 4ab + 5a^2b \cdot 3a^2b - 5a^2b \cdot ab^2 = -20a^3b^2 + 15a^4b^2 - 5a^3b^3 $$
Ответ: $$ -20a^3b^2 + 15a^4b^2 - 5a^3b^3 $$