5.) \(\dfrac{ax-ay-3x+3y}{9-a^2}\)

Сгруппируем слагаемые в числителе:

\(ax-ay-3x+3y=a(x-y)-3(x-y)=(a-3)(x-y)\).

Разложим знаменатель по формуле разности квадратов:

\(9-a^2=(3-a)(3+a)=-(a-3)(a+3)\).

Сократим общий множитель:

\(\dfrac{(a-3)(x-y)}{-(a-3)(a+3)}=-\dfrac{x-y}{a+3}=\dfrac{y-x}{a+3}\).

Исходное выражение определено при \(9-a^2\ne0\), поэтому \(a\ne3\) и \(a\ne-3\).

Ответ: \(\dfrac{y-x}{a+3}\), где \(a\ne\pm3\).