Вынесем общий множитель за скобки: $$5(a - b)^2 - 3(a - b) = (a - b)(5(a - b) - 3) = (a - b)(5a - 5b - 3)$$.
Ответ: $$(a - b)(5a - 5b - 3)$$.