Ответ:

а) В знаменателе вынесем \(\sqrt2\): \(3\sqrt2-\sqrt6=\sqrt2(3-\sqrt3)\). Числитель \(\sqrt3-3=-(3-\sqrt3)\). Сокращаем общий множитель:

\(\frac{\sqrt3-3}{3\sqrt2-\sqrt6}=-\frac1{\sqrt2}=-\frac{\sqrt2}{2}\).

б) При вещественных переменных и определённом корне \(a+b^2\ge0\). Введём \(t=\sqrt{a+b^2}\), тогда \(a=t^2-b^2\). Числитель раскладывается так:

\(9a-b^2=9(t^2-b^2)-b^2=9t^2-10b^2\).

Знаменатель после той же подстановки равен \(9(t^2-b^2)-6bt=9t^2-6bt-9b^2\). Общего множителя, который можно сократить при произвольных \(a,b\), нет; поэтому дробь в общем случае не сокращается.

Ответ: а) \(-\frac{\sqrt2}{2}\); б) дробь в общем случае не сокращается.