Ответ:

Пусть на первой полке первоначально было \(x\) книг. Тогда на второй было \(120-x\) книг.

После перестановки на первой полке осталось \(x-18\) книг, а на второй стало \(120-x+18=138-x\) книг.

По условию на второй полке стало в 2 раза больше книг:

\(138-x=2(x-18)\)

\(138-x=2x-36\)

\(174=3x\)

\(x=58\).

Первоначально на второй полке было \(120-58=62\) книги.

Проверка: после перестановки на первой полке \(58-18=40\) книг, на второй \(62+18=80\); \(80=2\cdot40\).

Ответ: первоначально на первой полке было 58 книг, на второй — 62 книги.