Ответ:

Каждое рукопожатие происходит между парой людей. Если считать для каждого человека рукопожатия со всеми остальными, получим n(n − 1), но тогда каждое рукопожатие посчитается дважды — по разу для каждого участника.

Поэтому делим результат на 2: n(n − 1)/2.

Ответ: второй вариант — n(n − 1)/2.