Ответ:

Пусть в мешке было \(x\) монет. Старший забрал \(\frac{x}{2}\), младший — \(\frac{x}{8}\), а средний получил оставшиеся 30 монет.

Составим уравнение: \(x-\frac{x}{2}-\frac{x}{8}=30\).

Приведём дроби к общему знаменателю: \(\frac{3x}{8}=30\), откуда \(x=30\cdot\frac{8}{3}=80\).

Ответ: в мешке было 80 монет.