5x^2 - 11x - 9 = 3x^2 - 11x + 9
Приведем подобные члены: 5x^2 - 3x^2 - 11x + 11x - 9 - 9 = 0
2x^2 - 18 = 0
2x^2 = 18
x^2 = 9
x = ±3