Раскроем скобки и приведем подобные члены:
$$ax(2x - 3a) - x(ax + 5a^2) = 2ax^2 - 3a^2x - a x^2 - 5a^2x$$
$$= 2ax^2 - ax^2 - 3a^2x - 5a^2x = ax^2 - 8a^2x$$
Ответ: $$ax^2 - 8a^2x$$