Ответ:

а) Рассмотрим возможное число мальчиков в команде: 3, 4 или 5.

\[\binom{5}{3}\binom{6}{2}+\binom{5}{4}\binom{6}{1}+\binom{5}{5}\binom{6}{0}=10\cdot15+5\cdot6+1=226.\]

Ответ: 226 способов.

б) Считаем пятерых мальчиков одним блоком. Тогда в ряд нужно расставить этот блок и 6 девочек — всего 7 объектов, что можно сделать \(7!\) способами. Внутри блока мальчики располагаются \(5!\) способами.

\[7!\cdot5!=5040\cdot120=604800.\]

Ответ: 604800 способов.