Обозначим f(x) = x² - (a + 1)x - а². Для выполнения условия задачи необходимо, чтобы f(1) < 0 и f(2) < 0.
f(1) = 1 - (a + 1) - a² = -a² - a < 0
a² + a > 0
a(a + 1) > 0
=> a < -1 или a > 0
f(2) = 4 - 2(a + 1) - a² = -a² - 2a + 2 < 0
a² + 2a - 2 > 0
a = (-2 +- sqrt(4 + 8)) / 2 = (-2 +- sqrt(12)) / 2 = (-2 +- 2sqrt(3)) / 2 = -1 +- sqrt(3)
a1 = -1 - sqrt(3) ≈ -2.73
a2 = -1 + sqrt(3) ≈ 0.73
=> a < -1 - sqrt(3) или a > -1 + sqrt(3)
Объединяем все условия:
a < -1 или a > 0
a < -1 - sqrt(3) или a > -1 + sqrt(3)
=> a < -1 - sqrt(3) или a > -1 + sqrt(3)
Ответ: a < -1 - sqrt(3); a > -1 + sqrt(3)