Ответ:

  1. \(\sqrt{11a^2}=\sqrt{11}\,|a|\). Так как \(a\leq0\), имеем \(|a|=-a\), поэтому \(\sqrt{11a^2}=-a\sqrt{11}\).

  2. \(\sqrt{18a^8}=\sqrt{9\cdot2\cdot(a^4)^2}=3a^4\sqrt2\), поскольку \(a^4\geq0\).

  3. Для действительных значений подкоренное выражение требует \(-a^7\geq0\), то есть \(a\leq0\). Тогда \(-a^7=(-a)^6(-a)\), откуда \(\sqrt{-a^7}=(-a)^3\sqrt{-a}=-a^3\sqrt{-a}\).

  4. При \(a>0\) действительное значение корня существует только при \(b\leq0\). Тогда \(-a^{10}b^5=(a^5)^2(b^2)^2(-b)\), поэтому \(\sqrt{-a^{10}b^5}=a^5b^2\sqrt{-b}\).

Ответ: 1) \(-a\sqrt{11}\); 2) \(3a^4\sqrt2\); 3) \(-a^3\sqrt{-a}\), при \(a\leq0\); 4) \(a^5b^2\sqrt{-b}\), при \(a>0\) и \(b\leq0\).