Для решения данного примера необходимо воспользоваться формулой сокращенного умножения: квадрат разности двух выражений:
$$ (a - b)^2 = a^2 - 2ab + b^2 $$В нашем случае:
$$ (3a - 7b)^2 - 42ab = (3a)^2 - 2 \cdot 3a \cdot 7b + (7b)^2 - 42ab = 9a^2 - 42ab + 49b^2 - 42ab = 9a^2 - 84ab + 49b^2 $$Ответ: $$9a^2 - 84ab + 49b^2$$