Преобразуем выражение:
$$ 36aba^2b - 12a^3bb - 8a^2 \cdot 2b^2 - 2ab^3 \cdot 5a^2 = 36a^3b^2 - 12a^3b^2 - 16a^2b^2 - 10a^3b^3 $$Приведем подобные члены:
$$ 36a^3b^2 - 12a^3b^2 - 16a^2b^2 - 10a^3b^3 = (36 - 12)a^3b^2 - 16a^2b^2 - 10a^3b^3 = 24a^3b^2 - 16a^2b^2 - 10a^3b^3 $$Ответ: 24a³b²-16a²b²-10a³b³