Ответ:

Условие задания 5 обрезано: не видны необходимые данные после слов «При каких целых значениях…». Поэтому определить ответ невозможно. Пришлите, пожалуйста, фотографию задания 5 целиком.