5. Выполните действия. б) $$(a^3-6a)^2$$;

Применим формулу квадрата разности: $$(a-b)^2 = a^2 - 2ab + b^2$$. $$(a^3 - 6a)^2 = (a^3)^2 - 2 \cdot a^3 \cdot 6a + (6a)^2 = a^6 - 12a^4 + 36a^2$$. Ответ: $$a^6 - 12a^4 + 36a^2$$