5) \((a-1)^2-(a+5)(a-3)\)

Раскроем скобки: \((a-1)^2=a^2-2a+1\), \((a+5)(a-3)=a^2+2a-15\).

Вычтем и приведём подобные слагаемые: \(a^2-2a+1-(a^2+2a-15)=-4a+16\).

Ответ: \(-4a+16\).