Решение:
- а) Умножим числитель и знаменатель на сопряженное знаменателю: \( \frac{(2\sqrt{10}-5)(4+\sqrt{10})}{(4-\sqrt{10})(4+\sqrt{10})} = \frac{8\sqrt{10}+20-20-5\sqrt{10}}{16-10} = \frac{3\sqrt{10}}{6} = \frac{\sqrt{10}}{2} \).
- б) Раскроем квадрат в числителе: \( (\sqrt{10}-1)^2-3 = (10 - 2\sqrt{10} + 1) - 3 = 11 - 2\sqrt{10} - 3 = 8 - 2\sqrt{10} \). Теперь дробь имеет вид: \( \frac{8-2\sqrt{10}}{\sqrt{10}+\sqrt{3}-1} \). Это выражение сложно сократить. Возможно, в условии опечатка. Если предположить, что числитель \( (\sqrt{10}-1)^2-10 \), то \( (10-2\sqrt{10}+1)-10 = 1-2\sqrt{10} \). Если знаменатель \( \sqrt{10}-1 \), то \( \frac{1-2\sqrt{10}}{\sqrt{10}-1} = \frac{-(2\sqrt{10}-1)}{\sqrt{10}-1} \).
Ответ: а) \( \frac{\sqrt{10}}{2} \); б) (возможно, опечатка в условии).