Ответ:

После того как взяли 50% карандашей, осталось 50% первоначального количества. Затем взяли 40% остатка, значит, осталось 60% от этих 50%.

В коробке осталось \(0,5\cdot0,6=0,3\), то есть 30% первоначального количества.

Если 30% составляют 3 карандаша, то первоначально было \(3:0,3=10\) карандашей.

Ответ: 10 карандашей.