Ответ:

Раскроем квадрат разности: \((3a-b)^2=9a^2-6ab+b^2\).

Вычтем вторую скобку и приведём подобные слагаемые:

\(9a^2-6ab+b^2-a^2-2b^2=8a^2-6ab-b^2\).

Ответ: \(8a^2-6ab-b^2\).