Ответ:

Пусть основание системы счисления равно \(b\). Тогда \(A=10\), \(B=11\), поэтому равенство записывается так: \(10b^2-(10b+11)=9b^2+4b+4\).

Переносим всё в одну часть: \(b^2-14b-15=0\). Разложим на множители: \((b-15)(b+1)=0\), откуда \(b=15\) или \(b=-1\).

Основание системы должно быть положительным и больше наибольшей цифры (здесь B = 11), поэтому подходит только 15.

Ответ: в пятнадцатеричной системе счисления.