Ответ:

Всего 11 книг. Число способов выбрать любые 3 книги — \(\binom{11}{3}\), а выбрать 3 учебника из 5 можно \(\binom{5}{3}\) способами.

\(P=\frac{\binom{5}{3}}{\binom{11}{3}}=\frac{10}{165}=\frac{2}{33}\).

Ответ: \(\frac{2}{33}\).