Ответ:

а) Разложим числитель и знаменатель на множители:

\(x^3+5x^2-6x=x(x^2+5x-6)=x(x+6)(x-1)\).

\(x^2+2x-3=(x+3)(x-1)\).

Сократим общий множитель \(x-1\), учитывая, что исходный знаменатель не равен нулю: \(x\ne1\) и \(x\ne-3\).

\(\dfrac{x^3+5x^2-6x}{x^2+2x-3}=\dfrac{x(x+6)}{x+3}\).

б) Разложим числитель и знаменатель:

\(2x^2+2x-40=2(x^2+x-20)=2(x+5)(x-4)\).

\(x^3+x^2-20x=x(x^2+x-20)=x(x+5)(x-4)\).

Сократим общие множители. Из исходного знаменателя следует, что \(x\ne0,-5,4\).

\(\dfrac{2x^2+2x-40}{x^3+x^2-20x}=\dfrac{2}{x}\).

Ответ: а) \(\dfrac{x(x+6)}{x+3}\), где \(x\ne1,-3\); б) \(\dfrac{2}{x}\), где \(x\ne0,-5,4\).