Ответ:

Если на полке нет книг других жанров, то все 20 книг входят в объединение детективов и фантастики.

По формуле включений и исключений количество книг обоих жанров равно 10 + 8 − 20 = −2. Получилось отрицательное число, а количество книг не может быть отрицательным. Значит, данные условия противоречивы: 10 детективов и 8 книг фантастики вместе не могут охватить 20 книг.

Ответ: по указанным данным решения не существует; в условии, вероятно, ошибка.