Ответ:

Всего способов выбрать места для 3 кассет с классической музыкой: \(\binom{8}{3}=56\).

Не перемешаны кассеты только в двух случаях: сначала 3 кассеты с классикой, затем 5 с рок-музыкой, или наоборот.

\(P=\frac{2}{56}=\frac{1}{28}\).

Ответ: \(\frac{1}{28}\).