В предложении "That night was fantastic. I ... up very late." требуется выбрать глагол в прошедшем времени, который согласуется с контекстом.
Вариант "went" (от "go") означает "ушел", что не подходит для "up very late".
Вариант "stay" — это инфинитив или форма настоящего времени, что не соответствует прошедшему времени предложения.
Вариант "stayed" — это правильная форма прошедшего времени от глагола "stay" (оставаться), что логично завершает фразу "I ... up very late" (Я оставался допоздна).