Ответ:

Выносим общий множитель \((a+b)^2\):

\(3a(a+b)^2-(a+b)^2=(a+b)^2(3a-1)\).

Ответ: \((a+b)^2(3a-1)\).