Вычитание в восьмеричной системе счисления выполняется поразрядно, аналогично десятичной. Если при вычитании в каком-либо разряде получается отрицательный результат, мы "занимаем" единицу из старшего разряда, которая равна 8 в текущем разряде.
Записываем числа столбиком:
371 - 166 -----
Разряд единиц: 1 - 6. Нельзя вычесть. Занимаем 8 из следующего разряда (7). Теперь у нас 1 + 8 = 9. 9 - 6 = 3.
3 (7-1) (1+8)
3 6 9
- 1 6 6
-------
3Разряд восьмерок: 6 - 6 = 0.
3 6 9
- 1 6 6
-----
0 3Разряд шестидесяти четырех: 3 - 1 = 2.
3 6 9 - 1 6 6 ----- 2 0 3
Ответ: 203