Ответ:

Раскроем квадрат суммы:

\((a+b)^2=a^2+2ab+b^2\).

Раскроем скобки во втором слагаемом:

\(-2a(3-2a)=-6a+4a^2\).

Приведём подобные слагаемые:

\(a^2+2ab+b^2-6a+4a^2=5a^2+2ab+b^2-6a\).

Ответ: \(5a^2+2ab+b^2-6a\).