5) (a^2−b^2)(2a+b)−ab(a+b)

Раскрываем скобки: (a^2−b^2)(2a+b)−ab(a+b) = (a−b)(a+b)(2a+b) − ab(a+b) = (a+b)((a−b)(2a+b)−ab) = (a+b)(2a^2−ab−2b^2−ab) = (a+b)(2a^2−2ab−2b^2) = 2(a+b)(a^2−ab−b^2)