Ответ:

Всего способов выбрать 3 книги из 11: \(\binom{11}{3}=165\). Благоприятные способы — выбрать 3 учебника из 5: \(\binom{5}{3}=10\).

\(P=\frac{\binom{5}{3}}{\binom{11}{3}}=\frac{10}{165}=\frac{2}{33}\).

Ответ: \(\frac{2}{33}\).