$$ \sqrt{a^2 - 10ab + 25b^2} = \sqrt{(a - 5b)^2} = |a - 5b| $$
Подставляем значения a = 9 и b = 4:
$$ |9 - 5 * 4| = |9 - 20| = |-11| = 11 $$
Из предложенных вариантов нет верного ответа.