Ответ:

Собираем подобные слагаемые.

а) \(a^2+(4-11)b^2+(6-6)ab=a^2-7b^2\).

б) \((3-8)a^2x+(3-3)ax^2+(5-10)a^3=-5a^2x-5a^3\).

в) \((9-9)x^3+(-8-1)xy-6y^2=-9xy-6y^2\).

г) Учитываем, что \(n^2m^2=m^2n^2\): \(m^4-3m^3n+m^2n^2-m^2n^2=m^4-3m^3n\).

Ответ: а) \(a^2-7b^2\); б) \(-5a^2x-5a^3\); в) \(-9xy-6y^2\); г) \(m^4-3m^3n\).