Ответ:

а) Используем равенство \(-\overrightarrow{AC}=\overrightarrow{CA}\):

\[\overrightarrow{BC}-\overrightarrow{AC}+\overrightarrow{AB}=\overrightarrow{BC}+\overrightarrow{CA}+\overrightarrow{AB}.\]

Сумма последовательных векторов замкнутого треугольника равна нулевому вектору:

\[\overrightarrow{BC}+\overrightarrow{CA}+\overrightarrow{AB}=\vec 0.\]

б) Тогда длина полученного вектора равна:

\[\left|\overrightarrow{BC}-\overrightarrow{AC}+\overrightarrow{AB}\right|=|\vec 0|=0\text{ см}.\]

Данные \(AC=5\) см и \(AB=6\) см для вычисления не требуются.

Ответ: а) \(\vec 0\); б) \(0\) см.