4. Разложите на множители: а) 20a⁴b³ - 2a³b⁴ + 6a²b²; б) x² - 3x - 3y - y².

Решение:

а) 20a⁴b³ - 2a³b⁴ + 6a²b²

Вынесем общий множитель. Общий множитель для коэффициентов — 2. Для степеней \( a \) — \( a^2 \). Для степеней \( b \) — \( b^2 \). Таким образом, общий множитель — \( 2a^2b^2 \).

\[ 20a^4b^3 - 2a^3b^4 + 6a^2b^2 = 2a^2b^2(10a^2b - ab^2 + 3) \]

б) x² - 3x - 3y - y²

Перегруппируем слагаемые, чтобы попытаться выделить полные квадраты или разность квадратов:

\[ (x^2 - y^2) - (3x + 3y) \]

\[ (x - y)(x + y) - 3(x + y) \]

Теперь вынесем общий множитель \( (x + y) \):

\[ (x + y)((x - y) - 3) \]

\[ (x + y)(x - y - 3) \]

Ответ: а) \( 2a^2b^2(10a^2b - ab^2 + 3) \) б) \( (x + y)(x - y - 3) \)