Ответ:

а) Вынесем общий множитель \(5a\):

\(5a^3-20ab^2=5a(a^2-4b^2).\)

В скобках разность квадратов:

\(5a(a^2-4b^2)=5a(a-2b)(a+2b).\)

б) Сгруппируем слагаемые и вынесем общий множитель в каждой группе:

\(9x^2-y^2+3x-y=(9x^2-y^2)+(3x-y)=(3x-y)(3x+y)+(3x-y).\)

Вынесем общий множитель \((3x-y)\):

\((3x-y)(3x+y+1).\)

Ответ: а) \(5a(a-2b)(a+2b)\); б) \((3x-y)(3x+y+1)\).