Ответ:

Пусть во второй тетради исписали \(x\) листов. Тогда в первой исписали \(2x\) листов.

Осталось чистых листов: в первой — \(96 - 2x\), во второй — \(80 - x\). По условию в первой осталось на 5 листов меньше:

\(96 - 2x = 80 - x - 5\).

\(96 - 2x = 75 - x\), откуда \(x = 21\). Значит, во второй тетради исписали 21 лист, а в первой — \(2 \cdot 21 = 42\) листа.

Проверка: осталось \(96 - 42 = 54\) и \(80 - 21 = 59\) листов; \(54\) на 5 меньше, чем \(59\).

Ответ: в первой тетради исписали 42 листа, во второй — 21 лист.