Ответ:

Обозначим a = 3x/2, b = 2y. Тогда 3x = a2, а 4y = b2.

Получаем систему:

a2 − b2 = 77,
a − b = 7.

Разложим разность квадратов:

(a − b)(a + b) = 77,
7(a + b) = 77,
a + b = 11.

Отсюда a = 9, b = 2. Значит, 3x/2 = 9 = 32, поэтому x = 4; 2y = 2, поэтому y = 1.

Ответ: (x; y) = (4; 1).