Ответ:

Обозначим множества решивших задачи по алгебре, геометрии и тригонометрии через \(A\), \(G\) и \(T\). Всего хотя бы одну задачу решили \(40-3=37\) учащихся. По формуле включений-исключений:

\(|A\cup G\cup T|=|A|+|G|+|T|-|A\cap G|-|A\cap T|-|G\cap T|+|A\cap G\cap T|\).

Подставим данные: \(37=20+18+18-7-8-9+|A\cap G\cap T|\). Следовательно, все три задачи решили \(5\) учащихся.

Число учащихся, решивших ровно две задачи, равно сумме попарных пересечений минус трижды посчитанные участники, решившие все три: \(7+8+9-3\cdot5=9\).

Число решивших ровно одну задачу найдём, вычтя из 37 решивших хотя бы одну задачу тех, кто решил ровно две или все три: \(37-9-5=23\).

Ответ: 1) 5 учащихся; 2) 9 учащихся; 3) 23 учащихся.