в) \((a+2b)^2-3ab=\)

Раскроем квадрат суммы:

\[(a+2b)^2-3ab=a^2+2\cdot a\cdot2b+(2b)^2-3ab.\]

\[=a^2+4ab+4b^2-3ab=a^2+ab+4b^2.\]

Ответ: \(a^2+ab+4b^2\)