Ответ:

Записываем каждую восьмеричную цифру тремя двоичными разрядами: \(5=101\), \(3=011\), \(7=111\). Получаем \(537_8=101011111_2\).

Группируем справа по четыре разряда и дополняем слева нулями: \(0001\ 0101\ 1111_2\).

Заменяем тетрады шестнадцатеричными цифрами: \(0001=1\), \(0101=5\), \(1111=F\).

Ответ: \(537_8=15F_{16}\).