9) Выполним умножение:
$$0,2a^2b \cdot 0,5ab - 3abab + 1,1a \cdot (-a^2b^2) - 5ab^2a =$$
$$= 0,1a^3b^2 - 3a^2b^2 - 1,1a^3b^2 - 5a^2b^2 =$$
Приведем подобные слагаемые:
$$= (0,1 - 1,1)a^3b^2 + (-3 - 5)a^2b^2 = -1a^3b^2 - 8a^2b^2 = $$
$$= -a^3b^2 - 8a^2b^2$$
Ответ: $$-a^3b^2 - 8a^2b^2$$