Не указано значение a, обозначим за $$a=a$$.
Упростим выражение:
$$2ab(3a^2-2b^2) - 3ab(4b^2 - a^2) = 6a^3b - 4ab^3 - 12ab^3 + 3a^3b = 9a^3b - 16ab^3$$