3. Приведем выражение к многочлену стандартного вида:
$$6xa - (3x^2 + 4a^2) - 5xa + (11xa - 2a^2) = 6xa - 3x^2 - 4a^2 - 5xa + 11xa - 2a^2 = (6xa - 5xa + 11xa) - 3x^2 + (-4a^2 - 2a^2) = 12xa - 3x^2 - 6a^2$$.
Ответ: $$12xa - 3x^2 - 6a^2$$