1) $$ \frac{a-64}{\sqrt{a}-8} = \frac{(\sqrt{a})^2 - 8^2}{\sqrt{a}-8} = \frac{(\sqrt{a} - 8)(\sqrt{a} + 8)}{\sqrt{a}-8} = \sqrt{a} + 8 $$.
2) $$ \frac{\sqrt{11}-11}{\sqrt{11}} = \frac{\sqrt{11} - 11}{\sqrt{11}} = \frac{\sqrt{11}}{\sqrt{11}} - \frac{11}{\sqrt{11}} = 1 - \frac{11\sqrt{11}}{11} = 1 - \sqrt{11} $$.
3) $$ \frac{a-5}{a+2\sqrt{5}a+5} $$ - в знаменателе пропущена скобка после 2√5, исправляю на $$ \frac{a-5}{a+2\sqrt{5a}+5} $$
$$ \frac{a-5}{a+2\sqrt{5a}+5} = \frac{(\sqrt{a})^2 - (\sqrt{5})^2}{(\sqrt{a} + \sqrt{5})^2} = \frac{(\sqrt{a} - \sqrt{5})(\sqrt{a} + \sqrt{5})}{(\sqrt{a} + \sqrt{5})^2} = \frac{\sqrt{a} - \sqrt{5}}{\sqrt{a} + \sqrt{5}} $$.
Исправим на $$ \frac{a-5}{\sqrt{a} + 2\sqrt{5} + 5} $$
Тогда в знаменателе выделим полный квадрат: $$ a + 2\sqrt{5a} + 5 = (\sqrt{a} + \sqrt{5})^2 $$.
Но тогда получается, что и в числителе должна быть разность квадратов, т.е. (√a)^2 - (√5)^2 = a - 5, чего у нас нет. Оставляю, как есть.
Ответ: 1) $$ \sqrt{a} + 8 $$; 2) $$ 1 - \sqrt{11} $$; 3) $$ \frac{a-5}{a+2\sqrt{5a}+5} $$