Ответ:

а) Сгруппируем слагаемые: \(xy+x-3y-3=x(y+1)-3(y+1)=(x-3)(y+1)\). Знаменатель равен \(5(y+1)\), поэтому дробь сокращается до \(\frac{x-3}{5}\), при \(y\ne-1\).

б) Группировка даёт \(ab-4b-2a+8=b(a-4)-2(a-4)=(a-4)(b-2)\). Знаменатель \(20-5a=-5(a-4)\). После сокращения получаем \(-\frac{b-2}{5}=\frac{2-b}{5}\), при \(a\ne4\).

в) Числитель группируем: \(mn-m+n-n^2=m(n-1)-n(n-1)=(m-n)(n-1)\). Знаменатель \(m^2-n^2=(m-n)(m+n)\). После сокращения получаем \(\frac{n-1}{m+n}\), при \(m\ne n\) и \(m\ne-n\).

г) Числитель: \(16-a^2=(4-a)(4+a)\). Знаменатель группируем: \(a^2-ab-4a+4b=a(a-b)-4(a-b)=(a-4)(a-b)\). Так как \(4-a=-(a-4)\), сокращённая дробь равна \(-\frac{a+4}{a-b}\), при \(a\ne4\) и \(a\ne b\).

Ответ: а) \(\frac{x-3}{5}\); б) \(\frac{2-b}{5}\); в) \(\frac{n-1}{m+n}\); г) \(-\frac{a+4}{a-b}\), с указанными ограничениями.