Ответ:

Разложим вектор \(\vec b\) на составляющие относительно направления \(\vec a\): проекция на это направление имеет длину \(|\vec b|\cos\varphi\). По определению скалярного произведения оно равно длине \(\vec a\), умноженной на проекцию \(\vec b\) на направление \(\vec a\). Поэтому \((\vec a,\vec b)=|\vec a|\,|\vec b|\cos\varphi\).

Так как длины ненулевых векторов положительны, равенство определяет косинус угла: \(\cos\varphi=\frac{(\vec a,\vec b)}{|\vec a|\,|\vec b|}\). На отрезке \([0;\pi]\) косинус однозначно задаёт угол между векторами.