Ответ:

а) Представим вычитание векторов как сложение с противоположными векторами и сложим по правилу треугольника:

\(\overrightarrow{B_1B}-\overrightarrow{AB}-\overrightarrow{B_1C}=\overrightarrow{B_1B}+\overrightarrow{BA}+\overrightarrow{CB_1}=\overrightarrow{CA}.\)

б) В равнобедренном треугольнике медиана к основанию является высотой. Поэтому \(AB_1=\sqrt{AB^2-BB_1^2}=\sqrt{10^2-8^2}=6\) см. Тогда \(AC=2AB_1=12\) см, а длина найденного вектора равна \(AC\).

Ответ: а) \(\overrightarrow{CA}\); б) 12 см.