Ответ:

Пусть пришли b мальчиков и g девочек. Тогда b + g = 16.

Рукопожатий между ребятами одного пола: \(\frac{b(b-1)}{2}+\frac{g(g-1)}{2}\). Между мальчиками и девочками: \(bg\).

По условию эти числа равны. Умножим равенство на 2 и преобразуем:

\(b(b-1)+g(g-1)=2bg\)

\(b^2-2bg+g^2=b+g\), значит \((b-g)^2=16\).

Следовательно, разность между числом мальчиков и девочек равна 4 по модулю. Вместе их 16, поэтому возможны пары \((b,g)=(10,6)\) и \((6,10)\).

Ответ: пришли либо 10, либо 6 мальчиков.