Ответ:

Причастный оборот «носивший оружие» стоит после определяемого слова «козак», поэтому перед оборотом ставится запятая.

У них были только длинные чубы, за которые мог выдрать их всякий козак, носивший оружие.

Графически: козак ← [носивший оружие].