Ответ:

Найдём векторы BA = A − B = (1; −3) и BC = C − B = (−7; 1).

Их скалярное произведение: BA · BC = 1 · (−7) + (−3) · 1 = −10.

Длины векторов: |BA| = √10, |BC| = √50. Поэтому cos ∠B = (BA · BC)/(|BA||BC|) = −10/(√10 · √50) = −1/√5 = −√5/5.

Ответ: cos ∠B = −√5/5.