2) (AB, CA) = ...;

Это скалярное произведение. Длина AB равна 6. Длина CA равна 6 * cos(30) = 6 * sqrt(3) / 2 = 3*sqrt(3). Угол между векторами AB и CA - 180-30 = 150 градусов. Скалярное произведение = |AB| * |CA| * cos(150) = 6 * 3*sqrt(3) * -sqrt(3)/2 = -27. Ответ -27