Упростим левую и правую части уравнения:
$$3a(5ab^3 - 3) + 5a^2b^2(3b - 2a) = 15a(2ab^3 - (ab)^2) + 5a^3b^2 + 18$$
Раскроем скобки:
$$15a^2b^3 - 9a + 15a^2b^3 - 10a^3b^2 = 30a^2b^3 - 15a^3b^2 + 5a^3b^2 + 18$$
Приведем подобные члены:
$$30a^2b^3 - 9a - 10a^3b^2 = 30a^2b^3 - 10a^3b^2 + 18$$
Перенесем все члены в одну сторону:
$$30a^2b^3 - 9a - 10a^3b^2 - 30a^2b^3 + 10a^3b^2 - 18 = 0$$
$$ - 9a - 18 = 0$$
$$ - 9a = 18$$
$$ a = -2$$
b может быть любым числом.
Ответ: a = -2, b - любое число