Ответ:

Пусть A - множество решивших задачу по алгебре, G - множество решивших задачу по геометрии, T - множество решивших задачу по тригонометрии.
Нам дано:
|A| = 20
|G| = 18
|T| = 18
|A ∩ G| = 7
|A ∩ T| = 9
|G ∩ T| = 8
Всего участников = 40
Не решили ничего = 3
Решили что-то = 40 - 3 = 37
Формула включений-исключений:
|A ∪ G ∪ T| = |A| + |G| + |T| - |A ∩ G| - |A ∩ T| - |G ∩ T| + |A ∩ G ∩ T|
37 = 20 + 18 + 18 - 7 - 9 - 8 + |A ∩ G ∩ T|
37 = 32 + |A ∩ G ∩ T|
|A ∩ G ∩ T| = 37 - 32 = 5
Теперь найдем, сколько человек решили хотя бы одну задачу:
Только A: |A| - |A ∩ G| - |A ∩ T| + |A ∩ G ∩ T| = 20 - 7 - 9 + 5 = 9
Только G: |G| - |A ∩ G| - |G ∩ T| + |A ∩ G ∩ T| = 18 - 7 - 8 + 5 = 8
Только T: |T| - |A ∩ T| - |G ∩ T| + |A ∩ G ∩ T| = 18 - 9 - 8 + 5 = 6
Только A и G: |A ∩ G| - |A ∩ G ∩ T| = 7 - 5 = 2
Только A и T: |A ∩ T| - |A ∩ G ∩ T| = 9 - 5 = 4
Только G и T: |G ∩ T| - |A ∩ G ∩ T| = 8 - 5 = 3
Все три: |A ∩ G ∩ T| = 5
Общее количество решивших задачи:
9 + 8 + 6 + 2 + 4 + 3 + 5 = 37
Ответ: 37 учащихся решили хотя бы одну задачу.