Используем формулу квадрата разности:
В нашем случае a = 3a и b = 5b, следовательно:
Ответ: $$9a^2 - 30ab + 25b^2$$