Приведём дроби в скобках к общему знаменателю.
Первая дробь:
$$ \frac{a}{3ab-b^2} = \frac{a}{b(3a-b)} $$
Вторая дробь:
$$ \frac{5b}{3a^2-ab} = \frac{5b}{a(3a-b)} $$
Общий знаменатель для дробей в скобках: \( ab(3a-b) \).
$$ \left( \frac{a}{b(3a-b)} - \frac{5b}{a(3a-b)} \right) = \left( \frac{a \cdot a}{ab(3a-b)} - \frac{5b \cdot b}{ab(3a-b)} \right) = \frac{a^2 - 5b^2}{ab(3a-b)} $$
Теперь преобразуем вторую часть выражения (после двоеточия), которая является делением.
$$ \frac{5b^2-a^2}{ab^2-3a^2b} = \frac{5b^2-a^2}{ab(b-3a)} $$
Заменим знак в знаменателе, чтобы он стал похож на знаменатель в скобках:
$$ \frac{5b^2-a^2}{ab(b-3a)} = \frac{5b^2-a^2}{-ab(3a-b)} = -\frac{a^2-5b^2}{ab(3a-b)} $$
Теперь выполним деление:
$$ \frac{a^2 - 5b^2}{ab(3a-b)} : \left( -\frac{a^2-5b^2}{ab(3a-b)} \right) $$
Деление на дробь равносильно умножению на перевёрнутую дробь:
$$ \frac{a^2 - 5b^2}{ab(3a-b)} \times \left( -\frac{ab(3a-b)}{a^2-5b^2} \right) $$
Сокращаем общие множители:
$$ \frac{\cancel{a^2 - 5b^2}}{\cancel{ab(3a-b)}} \times \left( -\frac{\cancel{ab(3a-b)}}{\cancel{a^2-5b^2}} \right) = -1 $$
Ответ: -1