Раскроем скобки:
$$(3a-b)^2 = (3a)^2 - 2 \cdot 3a \cdot b + b^2 = 9a^2 - 6ab + b^2$$
$$6a(a-b) = 6a^2 - 6ab$$
Теперь вычтем второе выражение из первого:
$$(9a^2 - 6ab + b^2) - (6a^2 - 6ab) = 9a^2 - 6ab + b^2 - 6a^2 + 6ab$$
Приведём подобные слагаемые:
$$= (9a^2 - 6a^2) + (-6ab + 6ab) + b^2 = 3a^2 + b^2$$
Ответ: $$3a^2 + b^2$$