4. Разложить на множители: a) m² - (m + n)²; б) x3 - y³ - 5x(x² + xy + y²).

а) m² - (m + n)²

Разложим как разность квадратов:

$$(m - (m + n))(m + (m + n)) = (m - m - n)(m + m + n) = (-n)(2m + n) = -n(2m + n)$$

Ответ: $$-n(2m + n)$$

б) x3 - y³ - 5x(x² + xy + y²)

Разложим разность кубов:

$$(x - y)(x^2 + xy + y^2) - 5x(x^2 + xy + y^2)$$

Вынесем общий множитель (x² + xy + y²) за скобки:

$$(x^2 + xy + y^2)(x - y - 5x)$$

Упростим выражение:

$$(x^2 + xy + y^2)(-4x - y)$$

Ответ: $$(x^2 + xy + y^2)(-4x - y)$$