Ответ:

Пусть основание системы счисления равно \(b\). Цифра 5 требует, чтобы \(b\geq 6\).

Переведём равенство в десятичный вид: \(4b^2-(b^2+2b+5)=2b^2+4b+2\).

Получаем \(b^2-6b-7=0\), то есть \((b-7)(b+1)=0\). Подходящее основание — 7.

Ответ: в семеричной системе счисления.