Пусть f(x) = x² - 2(a + 1)x - 2a - 2. Для того чтобы корни были меньше 1, необходимо и достаточно, чтобы:
1) Дискриминант был неотрицательным: D >= 0
2) Вершина параболы была меньше 1: x_v < 1
3) f(1) > 0
1) D = (2(a + 1))² - 4(-2a - 2)
= 4(a² + 2a + 1) + 8a + 8
= 4a² + 8a + 4 + 8a + 8
= 4a² + 16a + 12 >= 0
a² + 4a + 3 >= 0
(a + 1)(a + 3) >= 0
=> a <= -3; a >= -1
2) x_v = 2(a + 1)/2 < 1
a + 1 < 1
a < 0
3) f(1) = 1 - 2(a + 1) - 2a - 2 > 0
1 - 2a - 2 - 2a - 2 > 0
-4a - 3 > 0
=> a < -3/4
Объединяем все условия:
a <= -3; a >= -1
a < 0
a < -3/4
Получаем: a <= -3; -1 <= a < -3/4 - нет решений
Ответ: a <= -3