Раскроем скобки и приведем подобные слагаемые:
$$x(x + 2y) - y(3x - 4y) = x^2 + 2xy - 3xy + 4y^2$$
$$= x^2 + (2xy - 3xy) + 4y^2 = x^2 - xy + 4y^2$$
Ответ: $$x^2 - xy + 4y^2$$