Всего видеокассет: \( 3 + 5 = 8 \).
Общее количество способов расположить 8 видеокассет в стопку равно \( 8! \).
Условие «видеокассеты разных жанров не перемешаны друг с другом» означает, что все кассеты одного жанра стоят подряд.
Возможны два варианта расположения:
Количество способов расположить 3 классические кассеты между собой: \( 3! \).
Количество способов расположить 5 рок-кассет между собой: \( 5! \).
Для первого варианта (ККК РРРРР) количество перестановок: \( 3! \times 5! \).
Для второго варианта (РРРРР ККК) количество перестановок: \( 5! \times 3! \).
Общее количество благоприятных исходов: \( 2 \times (3! \times 5!) = 2 \times (6 \times 120) = 2 \times 720 = 1440 \).
Вероятность: \( P = \frac{\text{Количество благоприятных исходов}}{\text{Общее количество исходов}} = \frac{2 \times 3! \times 5!}{8!} \)
\[ P = \frac{2 \times 6 \times 120}{40320} = \frac{1440}{40320} = \frac{144}{4032} = \frac{1}{28} \]Ответ: \(\frac{1}{28}\)