В данном предложении обособленное определение выражено причастным оборотом: "переходящему в болото". Оно относится к слову "леса". Соответственно, запятая нужна перед причастным оборотом, так как он стоит после определяемого слова. Таким образом, запятая нужна в позиции (3).