Вспомним формулу квадрата разности двух чисел: $$(a - b)^2 = a^2 - 2ab + b^2$$.
Тогда $$(a - b^2)^2 = a^2 - 2 \cdot a \cdot b^2 + (b^2)^2 = a^2 - 2ab^2 + b^4$$.
Ответ: $$a^2 - 2ab^2 + b^4$$