Преобразуем выражение:
$$5xy^3 - 4x^2y + 3y^3 + * = 3y^3 - 4x$$
$$* = 3y^3 - 4x - (5xy^3 - 4x^2y + 3y^3)$$
$$* = 3y^3 - 4x - 5xy^3 + 4x^2y - 3y^3$$
$$* = -5xy^3 + 4x^2y - 4x$$
Ответ: $$-5xy^3 + 4x^2y - 4x$$