Ответ:

Пусть в школу пришли b мальчиков и g девочек. Рукопожатий между детьми одного пола было C(b, 2) + C(g, 2), а между мальчиками и девочками — bg.

По условию эти числа равны: b(b − 1)/2 + g(g − 1)/2 = bg. После преобразования получаем (b − g)² = b + g. Значит, число пришедших должно быть квадратом целого числа. Наибольший квадрат, не превосходящий 24, — 16. Он возможен: например, при 10 мальчиках и 6 девочках.

Не пришли 24 − 16 = 8 детей.

Ответ: 8