Пусть x - количество шестиугольников, y - количество семиугольников.
Составим систему уравнений:
$$ \begin{cases} x + y = \text{общее количество фигур} \\ 6x + 7y = 40 \text{ (общее количество вершин)} \end{cases} $$
Выразим x из первого уравнения: x = общее количество фигур - y
Подставим это выражение во второе уравнение: 6 * (общее количество фигур - y) + 7y = 40
6 * (общее количество фигур) - 6y + 7y = 40
6 * (общее количество фигур) + y = 40
y = 40 - 6 * (общее количество фигур)
Так как количество фигур должно быть целым числом, то общее количество фигур может быть только 6 (иначе у будет отрицательным)
Тогда y = 40 - 6 * 6 = 4, x = 6 - 4 = 2
Проверим: 2 шестиугольника (12 вершин) и 4 семиугольника (28 вершин), всего 12 + 28 = 40 вершин.
Ответ: Коля вырезал 2 шестиугольника.