5. а) 11,875 − (12 1/6 − 11,6);

Сначала вычислим выражение в скобках: \(12\frac{1}{6}-11{,}6=\frac{73}{6}-\frac{58}{5}=\frac{365-348}{30}=\frac{17}{30}\).

Преобразуем десятичную дробь и выполним вычитание: \(11{,}875-\frac{17}{30}=\frac{95}{8}-\frac{17}{30}=\frac{1425-68}{120}=\frac{1357}{120}=11\frac{37}{120}\).

Ответ: \(11\frac{37}{120}\).