Ответ:

а) Раскрываем скобки:

\((a-1)^2-(a+1)(a-2)=a^2-2a+1-(a^2-a-2)=3-a\).

б) Разложим на множители:

\(\frac{x^2-y^2}{x^2+y^2+2xy}=\frac{(x-y)(x+y)}{(x+y)^2}=\frac{x-y}{x+y}\).

Ответ: а) \(3-a\); б) \(\frac{x-y}{x+y}\).