Ответ:

Сгруппируем слагаемые:

\(a^2x^2-5x^2-a^2y^2+5y^2=x^2(a^2-5)-y^2(a^2-5)\).

Вынесем общий множитель, затем применим разность квадратов:

\((a^2-5)(x^2-y^2)=(a^2-5)(x-y)(x+y)\).

Ответ: \((a^2-5)(x-y)(x+y)\).