Ответ:

а) Разложим знаменатель на множители: \(3\sqrt{2}-\sqrt{6}=\sqrt{3}(\sqrt{6}-2)\). Удобнее заметить, что \(3\sqrt{2}-\sqrt{6}=\sqrt{3}(\sqrt{6}-2)\), а числитель \(\sqrt{3}-3\) не имеет общего множителя с ним. Рационализуем знаменатель:

\[\frac{\sqrt{3}-3}{3\sqrt{2}-\sqrt{6}}\cdot\frac{3\sqrt{2}+\sqrt{6}}{3\sqrt{2}+\sqrt{6}}=\frac{(\sqrt{3}-3)(3\sqrt{2}+\sqrt{6})}{18-6}=\frac{(\sqrt{3}-3)(3\sqrt{2}+\sqrt{6})}{12}.\]

Можно записать числитель как \(3\sqrt{6}+3\sqrt{2}-9\sqrt{2}-3\sqrt{6}=-6\sqrt{2}\), поэтому дробь равна \(-\frac{\sqrt{2}}{2}\).

б) Знаменатель — квадрат разности: \(9a-6b\sqrt{a}+b^2=(3\sqrt{a}-b)^2\). Числитель раскладывается как разность квадратов: \(9a-b^2=(3\sqrt{a}-b)(3\sqrt{a}+b)\). Сокращаем общий множитель:

\[\frac{9a-b^2}{9a-6b\sqrt{a}+b^2}=\frac{(3\sqrt{a}-b)(3\sqrt{a}+b)}{(3\sqrt{a}-b)^2}=\frac{3\sqrt{a}+b}{3\sqrt{a}-b}.\]

Ответ: а) \(-\frac{\sqrt{2}}{2}\); б) \(\frac{3\sqrt{a}+b}{3\sqrt{a}-b}\).