Ответ:

Диагональ соединяет две несоседние вершины. Из каждой вершины можно провести диагонали ко всем вершинам, кроме неё самой и двух соседних, поэтому из одной вершины выходит n − 3 диагонали. При подсчёте по всем вершинам каждая диагональ учитывается дважды, значит всего диагоналей n(n − 3)/2.

В первом изображённом треугольнике диагоналей нет. Во втором четырёхугольнике проведите обе диагонали — соедините противоположные вершины. В третьем шестиугольнике проведите все диагонали между несоседними вершинами.

Число вершин многоугольника34567…n
Число диагоналей, выходящих из одной вершины01234…n − 3
Общее число диагоналей025914…n(n − 3)/2