Выполним упрощение выражения:
$$8a^2+a^5-3a^2 \cdot 2+5a \cdot a - 4a^5$$
$$8a^2+a^5-6a^2+5a^2-4a^5$$
Сгруппируем подобные слагаемые:
$$8a^2-6a^2+5a^2+a^5-4a^5$$
Приведем подобные слагаемые:
$$(8-6+5)a^2+(1-4)a^5$$
$$7a^2-3a^5$$
Ответ: $$7a^2-3a^5$$