Преобразуем многочлен, приведя подобные слагаемые:
$$0,2a^2b - 0,5ab - 3abab + 1,1a(-a^2b^2) - 5ab^2a = 0,2a^2b - 0,5ab - 3a^2b^2 - 1,1a^3b^2 - 5a^2b^2 = 0,2a^2b - 0,5ab - 8a^2b^2 - 1,1a^3b^2$$
Степень многочлена определяется наибольшей степенью входящих в него одночленов. В данном случае наибольшая степень равна 5.
Ответ: 5