Ответ:

Вычтем меньшее число из большего и найдём НОД алгоритмом Евклида:

875 − 864 = 11.

864 = 11 · 78 + 6; 11 = 6 · 1 + 5; 6 = 5 · 1 + 1; 5 = 1 · 5.

Последний ненулевой остаток равен 1, следовательно, НОД(864, 875) = 1.

Ответ: числа 864 и 875 взаимно простые.