Ответ:

1) Разложим многочлены на множители:

\[5y^2-20y+20=5(y-2)^2,\quad y^3-1=(y-1)(y^2+y+1),\]

\[3y^2+3y+3=3(y^2+y+1),\quad 10y-20=10(y-2).\]

Тогда

\[\frac{5(y-2)^2}{(y-1)(y^2+y+1)}\cdot\frac{3(y^2+y+1)}{10(y-2)}=\frac{3(y-2)}{2(y-1)}.\]

ОДЗ: \(y\ne1,\ y\ne2\).

2) \[\frac{(a-2b)(a+2b)}{(3a-b)(3a+b)}:\frac{(a+2b)^2}{(3a-b)^2}=\frac{(a-2b)(3a-b)}{(3a+b)(a+2b)}.\]

ОДЗ: \(3a-b\ne0,\ 3a+b\ne0,\ a+2b\ne0\).

3) \[(a^n+3b^n)^2-12a^nb^n=(a^n-3b^n)^2,\]

\[a^{2n}-9a^nb^n=(a^n-3b^n)(a^n+3b^n),\quad a^2-b^2=(a-b)(a+b).\]

Следовательно,

\[\frac{(a^n-3b^n)^2}{a+b}\cdot\frac{(a-b)(a+b)}{(a^n-3b^n)(a^n+3b^n)}=\frac{(a-b)(a^n-3b^n)}{a^n+3b^n}.\]

Ответ: 1) \(\frac{3(y-2)}{2(y-1)}\); 2) \(\frac{(a-2b)(3a-b)}{(3a+b)(a+2b)}\); 3) \(\frac{(a-b)(a^n-3b^n)}{a^n+3b^n}\).