Ответ:

Читаю первое число как \((1F9)_{16}\). Переведём числа в десятичную систему: \((1F9)_{16}=1\cdot256+15\cdot16+9=505\), \((765)_8=7\cdot64+6\cdot8+5=501\), \((101101)_2=45\).

Выполним действия: \((505-501)\cdot45=4\cdot45=180\).

Ответ: 180