Ответ:

Выносим общий множитель 5:

\(5a^2-10abx+5b^2x^2=5(a^2-2abx+b^2x^2)\).

В скобках находится квадрат разности: \(a^2-2abx+b^2x^2=(a-bx)^2\).

Ответ: \(5(a-bx)^2\).