Ответ:

а) Подкоренное выражение представим в виде квадрата:

\(11+6\sqrt2=9+2+2\sqrt{9\cdot2}=(3+\sqrt2)^2\).

Тогда \(\sqrt{11+6\sqrt2}=3+\sqrt2\), поэтому

\(\sqrt{11+6\sqrt2}-\sqrt2=3+\sqrt2-\sqrt2=3\).

б) Упростим подкоренное выражение, используя \(5\sqrt8=10\sqrt2\):

\(27-5\sqrt8=27-10\sqrt2=25+2-2\sqrt{25\cdot2}=(5-\sqrt2)^2\).

Так как \(5>\sqrt2\), получаем \(\sqrt{27-5\sqrt8}=5-\sqrt2\). Следовательно, \(\sqrt{27-5\sqrt8}+\sqrt2=5\).

Ответ: а) 3; б) 5.