Ответ:

а) В команде может быть 3, 4 или 5 мальчиков: \(\binom{5}{3}\binom{6}{2}+\binom{5}{4}\binom{6}{1}+\binom{5}{5}=150+30+1=181\).

б) Объединим пятерых мальчиков в один блок. Вместе с шестью девочками получается 7 объектов: их можно расположить 7! способами. Внутри блока мальчиков — 5! перестановок. Итого 7! · 5! = 604800.

Ответ: а) 181 способ; б) 604800 способов.