Ответ:

Пусть в первом шкафу было \(x\) книг, тогда во втором — \(4x\) книг.

После изменения количества книг: \(x+17=4x-25\).

\(4x-x=17+25\),
\(3x=42\),
\(x=14\).

Во втором шкафу было \(4\cdot14=56\) книг.

Проверка: \(14+17=31\), \(56-25=31\).

Ответ: в первом шкафу было 14 книг, во втором — 56 книг.