Пусть на второй полке x книг, тогда на первой полке x - 4 книг. На третьей - (x - 4 + x)/2 = (2x - 4)/2 = x - 2 книги. Всего 96 книг. Составим уравнение:
$$(x - 4) + x + (x - 2) = 96$$
Решаем уравнение:
$$3x - 6 = 96$$
$$3x = 96 + 6$$
$$3x = 102$$
$$x = 34$$
На второй полке 34 книги.
На первой полке:
$$34 - 4 = 30$$
На третьей полке:
$$34 - 2 = 32$$
Проверим: $$30 + 34 + 32 = 96$$
Ответ: 30, 34 и 32 книги.