Ответ:

а) Число учеников, прочитавших только одно произведение:

20 + 18 + 15 − 2 · (8 + 6 + 5) + 3 · 3 = 53 − 38 + 9 = 24 (чел.).

Здесь учеников, прочитавших два произведения, вычитаем дважды, а прочитавших все три — добавляем трижды.

б) Число учеников, прочитавших хотя бы одно произведение:

20 + 18 + 15 − 8 − 6 − 5 + 3 = 37 (чел.).

Не прочитали ни одного произведения:

40 − 37 = 3 (чел.).

Ответ: а) 24 ученика; б) 3 ученика.