Знаменатель первой дроби $$a^2-9$$ можно разложить как разность квадратов: $$(a-3)(a+3)$$.
Знаменатель второй дроби $$a^2-9 = (a-3)(a+3)$$.
Знаменатель третьей дроби $$a+3$$. Общий знаменатель — $$(a-3)(a+3)$$.
$$\frac{5a^2}{(a-3)(a+3)} + \frac{42a+81}{(a-3)(a+3)} - \frac{(a^3+5a)(a-3)}{(a+3)(a-3)}$$
$$5a^2 + 42a + 81 - (a^3+5a)(a-3)$$
$$= 5a^2 + 42a + 81 - (a^4 - 3a^3 + 5a^2 - 15a)$$
$$= 5a^2 + 42a + 81 - a^4 + 3a^3 - 5a^2 + 15a$$
$$= -a^4 + 3a^3 + 57a + 81$$
$$\frac{-a^4 + 3a^3 + 57a + 81}{(a-3)(a+3)}$$
Ответ: $$\frac{-a^4 + 3a^3 + 57a + 81}{a^2-9}$$