Для упрощения данного выражения необходимо разложить знаменатель на множители и упростить выражение.
(a-b)√(1/(a²-2ab+b²)) = (a-b)√(1/(a-b)²) = (a-b) * (1 / √(a-b)²) = (a-b) * (1 / |a-b|) = (a-b) * (1 / (-(a-b))), так как a-b < 0, |a-b| = -(a-b) = (a-b) * ( - 1 / (a-b)) = -1