Ответ:

Положим \(x=\sqrt a\), \(y=\sqrt b\). Тогда \(a=x^2\), \(b=y^2\), а выражение принимает вид

\[\frac{x^3}{x+y}-\frac{x^2y}{y-x}-\frac{2x^4}{x^2-y^2}.\]

Так как \(y-x=-(x-y)\), перепишем второй член; также разложим \(x^2-y^2=(x-y)(x+y)\):

\[\frac{x^3}{x+y}+\frac{x^2y}{x-y}-\frac{2x^4}{(x-y)(x+y)}.\]

Приведём к общему знаменателю:

\[\frac{x^3(x-y)+x^2y(x+y)-2x^4}{(x-y)(x+y)}=\frac{-x^4+x^2y^2}{(x-y)(x+y)}=-x^2=-a.\]

Выражение определено при \(a>0\), \(b>0\) и \(a\ne b\), что следует из его знаменателей.

Ответ: \(-a\).