5. Разложите на множители: а) 2a⁴b³ − 2a³b⁴ + 6a²b²; б) x² − 3x − 3y − y².

а) Вынесем общий множитель \(2a^2b^2\):

\[2a^4b^3-2a^3b^4+6a^2b^2=2a^2b^2(a^2-ab+3).\]

б) Перегруппируем слагаемые:

\[x^2-3x-3y-y^2=x^2-y^2-3x-3y.\]

Вынесем общий множитель в каждой группе:

\[x^2-y^2-3(x+y)=(x+y)(x-y)-3(x+y).\]

\[=(x+y)(x-y-3).\]

Ответ: а) \(2a^2b^2(a^2-ab+3)\); б) \((x+y)(x-y-3)\).