Ответ:

Найдём скалярное произведение:

\[\vec a\cdot\vec b=(-1)\cdot5+2x+3\cdot(-1)=2x-8.\]

  1. При условии \(\vec a\cdot\vec b=3\):

    \(2x-8=3\),
    \(2x=11\),
    \(x=\frac{11}{2}\).

  2. При условии \(\vec a\cdot\vec b=-1\):

    \(2x-8=-1\),
    \(2x=7\),
    \(x=\frac{7}{2}\).

  3. Перпендикулярные векторы имеют нулевое скалярное произведение:

    \(2x-8=0\),
    \(2x=8\),
    \(x=4\).

Ответ: а) \(x=\frac{11}{2}\); б) \(x=\frac{7}{2}\); в) \(x=4\).