Ответ:

Возводим в степень каждый множитель одночлена: коэффициент возводится в эту степень, а показатели степеней переменных умножаются на неё.

  1. \((-5x^4b)^3=(-5)^3x^{12}b^3=-125x^{12}b^3\). Среди напечатанных вариантов такого результата нет: вариант \(-5x^{12}b^3\) не учитывает возведение коэффициента \(-5\) в третью степень.
  2. \((-0{,}1x^5b^{12})^2=(-0{,}1)^2x^{10}b^{24}=0{,}01x^{10}b^{24}\). Среди вариантов точного результата нет.
  3. \((-x^3b^8)^3=-x^9b^{24}\). Соответствует варианту \(-x^9b^{24}\).

В заданиях с напечатанными вариантами, по-видимому, есть опечатки: для первых двух выражений точных вариантов соответствия не представлено.