Раскроем скобки и приведем подобные слагаемые:
$$ (x^2 + 2y)(x^3 + 7y) - 6x^3(x^2 - 3y) = x^5 + 7x^2y + 2yx^3 + 14y^2 - 6x^5 + 18x^3y = -5x^5 + 20x^3y + 7x^2y + 14y^2 $$.
Ответ: $$ -5x^5 + 20x^3y + 7x^2y + 14y^2 $$