Во второй книге: \(40\cdot\frac{7}{8}=35\) сказок.
В книгах всего: \(40+35=75\) сказок.
На видеокассетах: \(90-75=15\) сказок.
Количество видеокассет: \(15:3=5\).
Ответ: 5 видеокассет.