Для правильного выбора глагольной формы необходимо учесть, что действие (чтение книги) было продолжительным и происходило в момент другого действия (прихода матери). Для этого используется Past Continuous.
Таким образом, правильный вариант — was reading.
Ответ: was reading