Ответ:

Крайние слагаемые — квадраты \(a\) и \(3b\), среднее слагаемое равно \(-2\cdot a\cdot 3b\).

\(a^2-6ab+9b^2=(a-3b)^2\).

Ответ: \((a-3b)^2\).