Ответ:

Всего способов выбрать 3 книги из 11 — \(\binom{11}{3}=165\). Благоприятные способы — выбрать 3 из 5 учебников: \(\binom{5}{3}=10\).

\(P = \frac{\binom{5}{3}}{\binom{11}{3}} = \frac{10}{165} = \frac{2}{33}\).

Ответ: \(\frac{2}{33}\).