Общий множитель для всех трех слагаемых - 5.
10a⁶ - 15a³b³ - 20b⁵ = 5(2a⁶ - 3a³b³ - 4b⁵)
Ответ: 5(2a⁶ - 3a³b³ - 4b⁵)
Замечательно! Продолжай в том же духе!