5) (x² + 2y)(x³+7y) - 6x³(x² - 8y).

Решение:

1. Раскроем первую пару скобок: \( (x^2 + 2y)(x^3 + 7y) = x^2 \cdot x^3 + x^2 \cdot 7y + 2y \cdot x^3 + 2y \cdot 7y = x^5 + 7x^2y + 2x^3y + 14y^2 \).
2. Раскроем вторую часть выражения: \( -6x^3(x^2 - 8y) = -6x^3 \cdot x^2 + 6x^3 \cdot 8y = -6x^5 + 48x^3y \).
3. Сложим полученные выражения: \( (x^5 + 7x^2y + 2x^3y + 14y^2) + (-6x^5 + 48x^3y) \).
4. Раскроем скобки: \( x^5 + 7x^2y + 2x^3y + 14y^2 - 6x^5 + 48x^3y \).
5. Приведём подобные слагаемые: \( (x^5 - 6x^5) + (2x^3y + 48x^3y) + 7x^2y + 14y^2 = -5x^5 + 50x^3y + 7x^2y + 14y^2 \).

Ответ: $$-5x^5 + 50x^3y + 7x^2y + 14y^2$$.