Вынесите множитель из-под знака корня: корень из корень из (-a^10 b^5), если a>0.

\[\sqrt{- a^{10}b^{5}};\ \ если\ a > 0:\]

\[\sqrt{- a^{10}b^{5}} = a^{5}b^{2}\sqrt{- b}.\]