Пусть вместо * стоит одночлен A. Тогда:
$$(4x^2 - 2xy + y^2) - A = 3x^2 + y^2 - 2xy$$
$$A = (4x^2 - 2xy + y^2) - (3x^2 + y^2 - 2xy)$$
$$A = 4x^2 - 2xy + y^2 - 3x^2 - y^2 + 2xy$$
$$A = (4x^2 - 3x^2) + (-2xy + 2xy) + (y^2 - y^2)$$
$$A = x^2$$
Ответ: $$x^2$$