Ответ:

а) Рассмотрим команды с 3, 4 или 5 мальчиками:

3 мальчика и 2 девочки: \(\binom{5}{3}\binom{6}{2}=10\cdot15=150\).

4 мальчика и 1 девочка: \(\binom{5}{4}\binom{6}{1}=5\cdot6=30\).

5 мальчиков: \(\binom{5}{5}=1\).

Всего \(150+30+1=181\) способ.

б) Объединим пятерых мальчиков в один блок. Тогда нужно расположить 7 объектов: этот блок и 6 девочек. Это можно сделать \(7!\) способами, а мальчиков внутри блока — \(5!\) способами.

Итого \(7!\cdot5!=5040\cdot120=604800\).

Ответ: а) 181 способ; б) 604800 способов.