Ответ:

  1. \(\frac{x^2-6x+9}{x^2-3x+9}\cdot\frac{x^3+27}{3x-9}=\frac{(x-3)^2}{x^2-3x+9}\cdot\frac{(x+3)(x^2-3x+9)}{3(x-3)}=\frac{(x-3)(x+3)}{3}=\frac{x^2-9}{3}\).

  2. \(\frac{1}{5(a^2+2ab+4b^2)}\cdot(a^3-8b^3)=\frac{(a-2b)(a^2+2ab+4b^2)}{5(a^2+2ab+4b^2)}=\frac{a-2b}{5}\).

  3. Разложим на множители:
    \(x^2-ax+bx-ab=(x-a)(x+b)\),
    \(x^2+ax-bx-ab=(x+a)(x-b)\),
    \(x^2+2ax+a^2=(x+a)^2\),
    \(x^2-2bx+b^2=(x-b)^2\).

    Тогда
    \(\frac{(x-a)(x+b)}{(x+a)(x-b)}\cdot\frac{(x+a)^2}{(x-b)^2}=\frac{(x-a)(x+b)(x+a)}{(x-b)^3}\).

Ответ: а) \(\frac{x^2-9}{3}\); б) \(\frac{a-2b}{5}\); в) \(\frac{(x-a)(x+a)(x+b)}{(x-b)^3}\).