Раскроем скобки:
(x-5)² = x² - 10x + 25
(3x-2)² = 9x² - 12x + 4
Вычтем второе выражение из первого:
(x² - 10x + 25) - (9x² - 12x + 4) = x² - 10x + 25 - 9x² + 12x - 4 = -8x² + 2x + 21