Ответ:

а) Сначала выполняем умножение, затем вычитание:

\(\frac{3b}{a+b}-\frac{a-b}{2b}\cdot\frac{4b^2}{a^2-b^2}=\frac{3b}{a+b}-\frac{(a-b)\cdot4b^2}{2b(a-b)(a+b)}\).

Сокращаем общие множители во втором слагаемом: \(\frac{3b}{a+b}-\frac{2b}{a+b}=\frac{b}{a+b}\).

Ограничения исходного выражения: \(b\ne0\), \(a\ne b\), \(a\ne-b\).

б) Сначала выполняем действие в скобках, затем умножение:

\(\left(a-\frac{3a}{a+3}\right)\cdot\frac{a^2-9}{5a^2}=\left(\frac{a(a+3)-3a}{a+3}\right)\cdot\frac{(a-3)(a+3)}{5a^2}\).

Упрощаем скобки и сокращаем множители: \(\frac{a^2}{a+3}\cdot\frac{(a-3)(a+3)}{5a^2}=\frac{a-3}{5}\).

Ограничения исходного выражения: \(a\ne-3\), \(a\ne0\).

Ответ: а) \(\frac{b}{a+b}\); б) \(\frac{a-3}{5}\).