Ответ:

1) Используем разность квадратов: \(a-64=(\sqrt a-8)(\sqrt a+8)\). При \(a\geq0\) и \(a\ne64\): \(\frac{a-64}{\sqrt a-8}=\sqrt a+8\).

2) Делим каждый член числителя на \(\sqrt{11}\): \(\frac{\sqrt{11}-11}{\sqrt{11}}=1-\sqrt{11}\).

3) Знаменатель равен \((\sqrt a+\sqrt b)^2\), а числитель раскладывается как \((\sqrt a-\sqrt b)(\sqrt a+\sqrt b)\). При допустимых значениях переменных и ненулевом знаменателе дробь сокращается до \(\frac{\sqrt a-\sqrt b}{\sqrt a+\sqrt b}\).

Ответ: 1) \(\sqrt a+8\); 2) \(1-\sqrt{11}\); 3) \(\frac{\sqrt a-\sqrt b}{\sqrt a+\sqrt b}\).