а) Умножим числитель и знаменатель на \(\sqrt{5}\) для избавления от иррациональности в знаменателе:
\[ \frac{10}{3\sqrt{5}} = \frac{10 \cdot \sqrt{5}}{3\sqrt{5} \cdot \sqrt{5}} = \frac{10\sqrt{5}}{3 \cdot 5} = \frac{10\sqrt{5}}{15} \]
Сократим дробь на 5:
\[ \frac{10\sqrt{5}}{15} = \frac{2\sqrt{5}}{3} \]
б) Умножим числитель и знаменатель на сопряжённое выражение \((2\sqrt{3}-1)\) для избавления от иррациональности в знаменателе:
\[ \frac{11}{2\sqrt{3}+1} = \frac{11 \cdot (2\sqrt{3}-1)}{(2\sqrt{3}+1) \cdot (2\sqrt{3}-1)} \]
В знаменателе используем формулу разности квадратов \((a+b)(a-b) = a^2 - b^2\):
\[ (2\sqrt{3}+1)(2\sqrt{3}-1) = (2\sqrt{3})^2 - 1^2 = (4 \cdot 3) - 1 = 12 - 1 = 11 \]
Теперь подставим полученное значение в дробь:
\[ \frac{11 \cdot (2\sqrt{3}-1)}{11} = 2\sqrt{3}-1 \]
Ответ: а) \(\frac{2\sqrt{5}}{3}\); б) \(2\sqrt{3}-1\).