Ответ:

а) Группируем слагаемые и выносим общие множители:

\(ax-ay+bx-by=a(x-y)+b(x-y)=(a+b)(x-y)\).

б) Группируем слагаемые:

\(5m^2+10mn-3mp-6np=5m(m+2n)-3p(m+2n)=(m+2n)(5m-3p)\).

Ответ: а) \((a+b)(x-y)\); б) \((m+2n)(5m-3p)\).