Ответ:

Положим \(x=\sqrt a\), \(y=\sqrt b\) (при положительных \(a,b\)). Тогда дробь принимает вид \(\frac{x^3-y^3}{x^3+xy^2+x^2y}\).

Разложим числитель и знаменатель на множители: \(x^3-y^3=(x-y)(x^2+xy+y^2)\), а \(x^3+x^2y+xy^2=x(x^2+xy+y^2)\).

Сокращаем общий множитель: \(\frac{(x-y)(x^2+xy+y^2)}{x(x^2+xy+y^2)}=\frac{x-y}{x}\).

Возвращаясь к исходным обозначениям, получаем \(\frac{\sqrt a-\sqrt b}{\sqrt a}\).

Ответ: \(\frac{\sqrt a-\sqrt b}{\sqrt a}\).