Ответ:

Лежавшая на полке — причастный оборот после определяемого слова «книга», поэтому он обособляется запятыми.

Книга, лежавшая на полке, была давно забыта.