Ответ:

а) Вынесем общий множитель в числителе и разложим разность квадратов в знаменателе:

\(\frac{5x-25}{40-x^2}=\frac{5(x-5)}{(\sqrt{40}-x)(\sqrt{40}+x)}\).

Здесь общий множитель не сокращается; разложение знаменателя на рациональные линейные множители невозможно без дополнительной информации. Дробь уже имеет сокращённый вид.

б) Числитель — квадрат разности, знаменатель — разность кубов:

\(\frac{x^2-2xy+y^2}{x^3-y^3}=\frac{(x-y)^2}{(x-y)(x^2+xy+y^2)}\).

Сокращаем общий множитель, учитывая ограничение исходного знаменателя:

\(\frac{x-y}{x^2+xy+y^2}\), где \(x\ne y\).

Ответ: а) \(\frac{5(x-5)}{40-x^2}\); б) \(\frac{x-y}{x^2+xy+y^2}\).