Ответ:

  1. \(\sqrt{11a^2}=\sqrt{11}\,|a|\). Так как \(a\le0\), то \(|a|=-a\), поэтому результат \(-a\sqrt{11}\).

  2. \(\sqrt{18a^8}=\sqrt{9\cdot2}\,\sqrt{(a^4)^2}=3a^4\sqrt2\), поскольку \(a^4\ge0\).

  3. Для существования корня требуется \(-a^7\ge0\), то есть \(a\le0\). Тогда \(-a^7=(-a)(a^3)^2\), и \(\sqrt{-a^7}=|a^3|\sqrt{-a}=-a^3\sqrt{-a}\).

  4. Для существования корня при \(a>0\) необходимо \(b\le0\). Выносим полный квадрат: \(\sqrt{-a^{10}b^5}=a^5\sqrt{-b^5}=a^5b^2\sqrt{-b}\).

Ответ: 1) \(-a\sqrt{11}\); 2) \(3a^4\sqrt2\); 3) \(-a^3\sqrt{-a}\) при \(a\le0\); 4) \(a^5b^2\sqrt{-b}\) при \(a>0,\ b\le0\).