Используем формулу квадрата разности: $$(a-b)^2 = a^2 - 2ab + b^2$$
$$(2v^4-6vx^4)^2 = (2v^4)^2 - 2 \cdot 2v^4 \cdot 6vx^4 + (6vx^4)^2 = 4v^8 - 24v^5x^4 + 36v^2x^8$$
Ответ: $$4v^8 - 24v^5x^4 + 36v^2x^8$$