Преобразуем выражение, затем сгруппируем подобные члены и запишем многочлен в стандартном виде:
36aba²b - 12a³bb - 8a² × 2b² - 2ab² × 5a² = 36a³b² - 12a³b² - 16a²b² - 10a³b² = (36a³b² - 12a³b² - 10a³b²) - 16a²b² = 14a³b² - 16a²b²
Степень многочлена равна наибольшей сумме степеней переменных в одном члене, то есть 5.
Ответ: 14a³b² - 16a²b², степень 5