Ответ:

Книги по геометрии составляют 30% от числа книг по математике, а книги по математике — 8% от общего числа книг.

Значит, книги по геометрии составляют от общего числа:

\(8\% \cdot 30\% = 0{,}08 \cdot 0{,}3 = 0{,}024\), то есть 2,4%.

Пусть всего в библиотеке \(x\) книг. Тогда:

\(0{,}024x = 960\).

\(x = 960 : 0{,}024 = 40000\).

Ответ: 40000 книг.