Ответ:

а) Разложим выражения на множители:

\(\dfrac{x^2-6x+9}{x^2-3x+9}\cdot\dfrac{x^3+27}{3x-9}=\dfrac{(x-3)^2}{x^2-3x+9}\cdot\dfrac{(x+3)(x^2-3x+9)}{3(x-3)}\).

Сокращаем общие множители: \(\dfrac{(x-3)(x+3)}{3}=\dfrac{x^2-9}{3}\). Исходное выражение определено при \(x\ne3\).

б) Используем формулу разности кубов и разложение знаменателя:

\(\dfrac{1}{5a^2+10ab+20b^2}\cdot(a^3-8b^3)=\dfrac{1}{5(a^2+2ab+4b^2)}\cdot(a-2b)(a^2+2ab+4b^2)\).

После сокращения получаем \(\dfrac{a-2b}{5}\). Исходное выражение не определено при \(a=b=0\).

в) Разложим многочлены на множители:

\(x^2-ax+bx-ab=(x-a)(x+b)\), \(x^2+ax-bx-ab=(x+a)(x-b)\), \(x^2+2ax+a^2=(x+a)^2\), \(x^2-2bx+b^2=(x-b)^2\).

Тогда \(\dfrac{(x-a)(x+b)}{(x+a)(x-b)}\cdot\dfrac{(x+a)^2}{(x-b)^2}=\dfrac{(x-a)(x+b)(x+a)}{(x-b)^3}\).

Сохраняем ограничения исходного выражения: \(x\ne-a\), \(x\ne b\).

Ответ: а) \(\dfrac{x^2-9}{3}\); б) \(\dfrac{a-2b}{5}\); в) \(\dfrac{(x-a)(x+b)(x+a)}{(x-b)^3}\).