Ответ:

  1. \(\sqrt{11a^2}=\sqrt{11}\,|a|\). Так как \(a\le0\), \(|a|=-a\), поэтому результат \(-a\sqrt{11}\).

  2. \(\sqrt{18a^8}=\sqrt{9\cdot2\cdot(a^4)^2}=3a^4\sqrt2\).

  3. Для действительных значений требуется \(a\le0\). Тогда \(\sqrt{-a^7}=\sqrt{a^6(-a)}=|a^3|\sqrt{-a}=-a^3\sqrt{-a}\).

  4. Так как \(a>0\), для действительного корня необходимо \(b\le0\). Тогда \(\sqrt{-a^{10}b^5}=a^5\sqrt{b^4(-b)}=a^5b^2\sqrt{-b}\).

Ответ: 1) \(-a\sqrt{11}\); 2) \(3a^4\sqrt2\); 3) \(-a^3\sqrt{-a}\) при \(a\le0\); 4) \(a^5b^2\sqrt{-b}\) при \(a>0,\ b\le0\).