Для того, чтобы разделить дробь на дробь, нужно умножить первую дробь на дробь, обратную второй.
$$\frac{(y - 3)^5}{(x - 5)^2x^5} : \frac{(y - 3)^3}{(x - 5)x^4} = \frac{(y - 3)^5}{(x - 5)^2x^5} \cdot \frac{(x - 5)x^4}{(y - 3)^3} = \frac{(y - 3)^5 \cdot (x - 5) \cdot x^4}{(x - 5)^2 \cdot x^5 \cdot (y - 3)^3} = \frac{(y - 3)^{5-3}}{(x - 5)^{2-1} \cdot x^{5-4}} = \frac{(y - 3)^2}{(x - 5)x}$$Ответ: $$\frac{(y - 3)^2}{(x - 5)x}$$