Ответ:

а) Возводим числитель в квадрат: \(\frac{(3\sqrt{5})^2}{30}=\frac{9\cdot5}{30}=\frac{45}{30}=\frac{3}{2}\).

б) Сначала возводим знаменатель в квадрат: \((5-\sqrt{2})^2=25-10\sqrt{2}+2=27-10\sqrt{2}\).

Умножаем дробь на сопряжённое выражение:

\(\frac{300}{27-10\sqrt{2}}\cdot\frac{27+10\sqrt{2}}{27+10\sqrt{2}}=\frac{300(27+10\sqrt{2})}{27^2-(10\sqrt{2})^2}=\frac{300(27+10\sqrt{2})}{529}\).

Ответ: а) \(\frac{3}{2}\); б) \(\frac{300(27+10\sqrt{2})}{529}\).