Ответ:

Из каждой из \(n\) вершин можно провести диагонали к \(n-3\) вершинам: сама вершина и две соседние не подходят. Получается \(n(n-3)\) подсчётов, но каждая диагональ учтена дважды — по одному разу с каждого конца. Поэтому число диагоналей равно \(\frac{n(n-3)}{2}\).

Ответ: \(\frac{n(n-3)}{2}\) — первый вариант.