Пусть x - количество монет по 2 р., а y - количество монет по 5 р. Составляем систему уравнений: x + y = 18; 2x + 5y = 97.
Из первого уравнения выражаем x: x = 18 - y. Подставляем во второе уравнение: 2(18 - y) + 5y = 97.
Решаем уравнение: 36 - 2y + 5y = 97; 3y = 61. Так как количество монет должно быть целым числом, задача не имеет решения в целых числах.