5) Выполним упрощение выражения:
$$8a^2 + a^5 - 3a^2 \cdot 2 + 5a \cdot a - 4a^3 =$$
$$8a^2 + a^5 - 6a^2 + 5a^2 - 4a^3 =$$
Приведем подобные слагаемые:
$$a^5 - 4a^3 + (8a^2 - 6a^2 + 5a^2) =$$
$$a^5 - 4a^3 + 7a^2$$
Ответ: $$a^5 - 4a^3 + 7a^2$$