Ответ:

Сгруппируем последние слагаемые: \(3(a+b)^2-2a(a+b)\).

Вынесем общий множитель \(a+b\): \((a+b)(3(a+b)-2a)\).

Ответ: \((a+b)(a+3b)\).