Ответ:

Книг по математике:

\[250\cdot0.4=100\text{ книг}\]

После этого осталось:

\[250-100=150\text{ книг}\]

Книг по литературе:

\[150\cdot0.3=45\text{ книг}\]

Книг по истории:

\[150-45=105\text{ книг}\]

Ответ: 105 книг.