Ответ:

  1. Разложим знаменатели на множители: \(a^3-ab^2=a(a-b)(a+b)\), \(a^2-b^2=(a-b)(a+b)\), \(a^2+2ab+b^2=(a+b)^2\).

  2. Вычтем дроби в скобках:

    \(\frac{1}{(a-b)(a+b)}-\frac{1}{(a+b)^2}=\frac{(a+b)-(a-b)}{(a-b)(a+b)^2}=\frac{2b}{(a-b)(a+b)^2}\).

  3. Заменим деление умножением на обратную дробь:

    \(\frac{b}{a(a-b)(a+b)}\cdot\frac{(a-b)(a+b)^2}{2b}=\frac{a+b}{2a}\).

Исходное выражение определено при \(a\ne0\), \(b\ne0\) и \(a\ne\pm b\).

Ответ: \(\frac{a+b}{2a}\).